英伟达 GH200 Grace Hopper 超级芯片

是什么

GH200 Grace Hopper 超级芯片（superchip）是英伟达的一款产品：它把一颗 CPU 和一颗 GPU 放进同一个封装，而不是做成主板上两颗通过 PCIe 相连的独立芯片。CPU 一侧是 Grace CPU，GPU 一侧是 Hopper 架构的 GPU，两者在封装内部由 NVLink-C2C 这片裸片间互连（die-to-die interconnect）连在一起^[1]。英伟达把这种合二为一的器件称为超级芯片。

封装里有什么

Grace 一侧有 72 个 Arm Neoverse V2 核心，支持 4×128 位 SVE2（可伸缩向量扩展 2，Arm 核心用来做宽数据并行运算的指令集），三级缓存为 117 MB^[1]。GPU 一侧有 132 个 Hopper 流式多处理器（SM），计算能力等级为 9.0^[1]。

两层内存

GH200 的 GPU 内存有两种规格：96 GB 的 HBM3，或者 144 GB 的 HBM3e^[1]。在此之外，它还支持最多 480 GB 的 LPDDR5X CPU 内存，带宽最高 500 GB/s^[1]。两层内存分工不同：HBM 紧挨着 GPU，速度快但容量相对小；LPDDR5X 容量大得多，速度慢一些。由于两者都通过同一条封装内的链路挂在一起，程序可以同时使用这两个内存池，而不必在分立的 CPU 板和 GPU 板之间隔着 PCIe 总线来回搬数据。

两半之间的链路

NVLink-C2C 的运行速率为 900 GB/s。英伟达称，这是 PCIe Gen5 带宽的 7 倍，而功耗只有后者的五分之一^[1][3]。正是这条链路让 CPU 和 GPU 表现得像一个整体，而不是两台靠线缆共享数据的机器；这个数字也是 GH200 与常规「CPU 加 GPU」服务器最直观的区别。

两颗连一起：GH200 NVL2

英伟达还定义了 GH200 NVL2，用 NVLink 把两颗超级芯片连起来。这样一对组合拥有 288 GB 高带宽内存、10 TB/s 的内存带宽和 1.2 TB 的快速内存^[2]。

功耗

GH200 的热设计功耗（TDP）标称为 550 至 1,000 W，该数字包含内存^[1]。之所以跨度这么大，是因为它有不同的内存配置。

基准测试

GH200 首次出现在 MLPerf Inference 的 v3.1 轮次中。MLPerf Inference 是业界用来衡量训练好的模型回答请求有多快的基准套件；英伟达表示，GH200 跑完了它在该轮提交的每一项测试^[3]。

在整机设计中的位置

搭一台 AI 服务器通常的做法是买一块 CPU 板和一块 GPU 板，再用 PCIe 把两者连起来。GH200 走的是相反的路：两颗处理器以及各自附带的内存从一开始就作为一个器件来设计，互连在制造时就固定下来，而不是插在插槽上再去协商。这样做的结果是，一个封装里有了异常大的合并内存池，以及一条英伟达明确拿 PCIe Gen5 作对比的链路，代价是数百瓦级的功耗预算。内存容量和链路带宽这两个数字，正是这套设计希望被衡量的地方。