NVIDIA B200（Blackwell）

是什么

B200 是 NVIDIA 的 Blackwell 架构数据中心 GPU，于 2024 年 3 月 18 日在公司 GTC 活动上发布，接替上一代 Hopper 架构的加速器。^[1] 它是 NVIDIA AI 系统里的计算核心，负责完成训练和运行大型神经网络所需的矩阵运算。

Blackwell 这个名字来自数学家 David Harold Blackwell，他研究博弈论与统计学，是美国国家科学院（National Academy of Sciences）首位黑人院士。^[1]

一颗由两块芯片拼成的 GPU

每颗 Blackwell GPU 集成 2080 亿个晶体管，采用定制的台积电 4NP 工艺制造。它不是一整块 monolithic（单片式）硅片：每颗 GPU 由两块达到光罩极限（reticle limit，即光刻设备一次曝光所能覆盖的最大面积）的芯片组成，两块芯片之间用一条带宽 10 TB/s 的片间链路连接，从而表现得像一颗统一的 GPU。^[1] 把大芯片拆成小芯片，是绕过制造设备尺寸上限的办法，代价是需要极快的连接把两半绑在一起。

Transformer 引擎与 FP4

第二代 Transformer 引擎（Transformer Engine）为推理新增了 4 位浮点（FP4）运算。NVIDIA 称这使芯片可支持的计算量和模型规模都翻倍。^[1] 数值格式之所以重要，是因为模型的权重和中间值都要存进内存并在其中搬运；每个数值占的位数越少，留给计算本身的空间和带宽就越多，而带宽往往正是推理的瓶颈。

NVLink 与片上的新部件

第五代 NVLink（NVLink）为每颗 GPU 提供 1.8 TB/s 的双向带宽，最多可连接 576 颗 GPU。^[1] 加速器之间的高速链路很关键，因为大模型通常要分散到许多芯片上，它们之间必须不停地交换数据。芯片还增加了一个用于可靠性的 RAS 引擎，以及一个面向数据分析负载的专用解压引擎。^[1]

机架级系统

B200 更多是作为更大单元的一部分出售，而不是一块独立的卡。GB200 Grace Blackwell 超级芯片（Superchip）把两颗 B200 GPU 与一颗 NVIDIA Grace CPU 通过 900 GB/s 的片间链路连在一起。GB200 NVL72 机架把 36 个这样的超级芯片——共 72 颗 Blackwell GPU——组合起来，作为一颗单一 GPU 运行，提供 1.4 exaflops 的 AI 性能和 30 TB 高速内存。^[1] NVIDIA 称，NVL72 的大语言模型推理性能最高可达同等数量 H100 GPU 的 30 倍，成本和能耗最高可降低 25 倍。^[1]

在单台服务器层面，DGX B200 装有 8 颗 Blackwell GPU，合计 1440 GB 的 HBM3e 内存、64 TB/s 的内存带宽、72 petaflops 的 FP8 性能（稀疏形式，稠密为其一半）、14.4 TB/s 的 NVLink 总带宽，功耗约 14.3 kW。NVIDIA 表示它的训练性能是 DGX H100 的 3 倍，推理性能是 15 倍。^[2]

发布时预期的使用者

发布时被列为预期采用者的机构包括 Amazon Web Services、Dell、Google、Meta、Microsoft、OpenAI、Oracle、Tesla 和 xAI。Mark Zuckerberg 表示 Meta 将使用 Blackwell 帮助训练其 Llama 模型。^[1]

在谱系中的位置

B200 延续了 NVIDIA 的一个做法：每一代产品都作为整套系统出售，而不是一颗孤立的芯片——GPU、互连、内存与所在的机架是一起设计的。上面这些数字是 NVIDIA 在发布前后给出的性能说法，实际意义取决于软件、模型以及集群的连接方式。它在产品线中的位置倒是容易说清：它是 Hopper 的后继，面向同一件事——训练和运行非常大的模型——只是晶体管更多、互连更宽，并增加了一条面向推理的低精度运算路径。^[1]