NVIDIA H800（中国市场版）

是什么

H800 是 NVIDIA 面向中国市场的数据中心 GPU（graphics processing unit，图形处理器），由旗舰型号 H100 改版而来，目的是在 2022 年 10 月美国出台的出口规则之下仍能出口到中国。路透社（Reuters）在 2023 年 3 月 21 日报道了这款芯片，并称阿里巴巴、百度、腾讯的云业务部门已经在使用它^[1]。

由来

H800 不是 NVIDIA 第一款为中国改版的芯片。在它之前是 A800，即 A100 的中国版，部分能力被削减，路透社在 2022 年 11 月报道了这款产品^[1]。两者应对的是同一个问题：2022 年 10 月的规则并不是一概禁止数据中心芯片，而是针对同时具备强算力与高芯片间传输速率的芯片^[2]。把芯片之间的连接削弱，是在保住大部分算力的同时留在规则之内的办法。

改了什么

NVIDIA 拒绝说明 H800 与 H100 的具体差别，只表示其 800 系列产品完全符合出口管制方面的规定。一位芯片行业消息人士向路透社表示，主要改动是把芯片间数据传输速率降到 H100 的大约一半^[1]。在训练集群里，这个速率决定 GPU 之间交换数据的快慢；模型越大、切分到越多芯片上，通信就越容易成为瓶颈。用互连换合规，意味着同样的算力在跨芯片协作时会打折扣。

规则收紧

2023 年 10 月 17 日公布的新规则进一步收紧：它以「总处理性能（total processing performance）」4800 及以上作为针对数据中心芯片的门槛，H800 与 A800 也被覆盖在内^[2]。2023 年 10 月 23 日，NVIDIA 表示美国政府已让新的管制对 A100、A800、H100、H800 和 L40S 立即生效^[3]。

在 DeepSeek-V3 中的角色

DeepSeek-V3（2024 年 12 月）是在一个由 2048 块 NVIDIA H800 组成的集群上训练的^[4]。每个节点装 8 块 GPU，通过 NVLink 与 NVSwitch 相连，节点之间用 InfiniBand 互连；报告给出的集群内 NVLink 带宽为 160 GB/s，约为 InfiniBand 的 50 GB/s 的 3.2 倍。为减少跨节点流量，每个 token 被限制在最多 4 个节点上^[4]。

报告称，完整训练共花费 278.8 万 H800 GPU 小时（其中预训练 266.4 万小时，用时不到两个月），按每小时 2 美元的假设计算约为 557.6 万美元；每训练 1 万亿 token 需要 18 万 GPU 小时，在这套集群上是 3.7 天。报告强调，这些数字只覆盖最终那次训练，不包括此前的研究与消融实验^[4]。

DeepSeek 团队也描述了在芯片限制内工作的细节：H800 有 132 个流式多处理器（streaming multiprocessor），他们把其中 20 个留给通信使用；他们观察到，H800 上 FP8 矩阵乘法的累加只保留约 14 位精度。基于这些限制，报告还为 AI 芯片厂商列出了硬件设计建议^[4]。

位置

H800 的公开历史很短：2023 年 3 月被报道时，它已经在中国三家公司的云业务部门里运行^[1]；同年 10 月，收紧后的规则将它覆盖并立即生效^[2][3]。它记录了出口管制如何改变中国 AI 团队能买到什么芯片，也留下了一份详细的记录：一个团队如何在给定硬件上组织训练——互连带宽、累加精度与并行策略都写在报告里，并据此向芯片厂商提出设计要求^[4]。