NVIDIA 发布 Blackwell Ultra

背景

大语言模型的主要算力开销通常发生在部署之前：训练阶段消耗绝大部分计算，回答一个问题相对来说很便宜。测试时扩展推理（test-time scaling inference）改变了这种侧重。系统不只在训练时投入更多算力，而是在回答问题的过程中投入更多算力——例如把中间步骤一步步展开，或者同时考虑多个候选答案再决定用哪一个——用多出来的计算换取更高的准确率。NVIDIA 正是这样描述这一思路的：在推理阶段使用更多算力来提高准确率 ^[1]。

这种做法会改变底层机器的设计取向。一个要展开很长中间过程的模型，需要在生成过程中把这些中间结果存放在某处；而一个要同时处理许多这类请求的服务，除了原始算力还需要吞吐能力。Blackwell Ultra 面向的正是这一需求。

发布了什么

2025 年 3 月 18 日，NVIDIA 在圣何塞举行的 GTC 大会上发布 Blackwell Ultra ^[1]。公司把这套平台同时定位给两件事：训练，以及测试时扩展推理 ^[1]。两者一起发布，本身也说明了一种判断：同一代硬件应当同时服务于模型被造出来的阶段和被使用的阶段。

系统与数字

发布会上介绍的系统是 HGX B300 NVL16。按 NVIDIA 的说法，它在大语言模型上的推理速度是 Hopper 代的 11 倍，算力是 7 倍，内存是 4 倍 ^[1]。这三个数字衡量的是不同的东西——推理负载上的速度、总算力、内存容量——NVIDIA 把它们一并作为相对上一代数据中心平台的提升来呈现。另一个机架级配置 GB300 NVL72 也将在 NVIDIA DGX Cloud 上提供 ^[1]。

通过什么渠道到达客户

NVIDIA 列出了预计交付基于 Blackwell Ultra 的服务器的厂商：Cisco、Dell Technologies、Hewlett Packard Enterprise、Lenovo 和 Supermicro ^[1]。它同时列出了将率先提供基于 Blackwell Ultra 的实例的云服务商：Amazon Web Services、Google Cloud、Microsoft Azure 和 Oracle Cloud Infrastructure ^[1]。两份名单对应两条销售路径——买整台系统，或者按实例租用算力——合起来说明这套平台从一开始就打算同时以硬件和云服务两种形式出现。

为什么重要

NVIDIA 首席执行官黄仁勋（Jensen Huang）表示，推理与智能体式 AI（agentic AI）需要高出数个数量级的计算性能 ^[1]。这句话把一代硬件和一种工作负载的变化绑在一起：如果模型不只在训练时、还要在每给出一个答案时消耗更多算力，那么支撑每个答案的算力就必须相应增长，系统内部算力与内存之间的配比也要重新调整。Blackwell Ultra 被呈现为 NVIDIA 对这一重新配比的回答，而合作名单则显示，公司同时安排了这类系统通常经由哪些渠道被购买。