华为昇腾 910B

是什么

昇腾 910B 是华为昇腾系列中的一款 AI 芯片，面向神经网络训练与推理中大量重复的矩阵运算。昇腾社区把它描述为一款 2023 年量产的芯片，FP16 吞吐相比昇腾 910 提升到 320 TFLOPS 以上^[2]。

它最常被提起的指标是 FP16，也就是半精度浮点数：每个数用 16 位存储，而不是普通单精度所用的 32 位。数位越窄，占用的显存越少，搬运它所需的带宽也越小，这正是 FP16 成为深度学习常用精度的原因。

参数表上的数字

华为的对比表为 910B 列出三项算力：FP16 320 TFLOPS、INT8 640 TOPS、FP64 20 TFLOPS^[1]。单位本身就有讲究。TFLOPS 是每秒浮点运算次数，对应权重和激活值以浮点形式参与计算的情形；TOPS 是每秒整数运算次数，对应模型经过量化之后的情形。INT8 指的就是后者：把权重和激活值压成 8 位整数，这是部署已训练模型时常用的做法，可以显著减少显存占用与数据搬运。相比之下，FP64 双精度只有 20 TFLOPS，远低于 FP16，说明双精度计算并不是这块芯片的着力点。

显存、功耗与工艺

表格给出的显存是 32 GB HBM2e，带宽 1.6 TB/s^[1]。HBM（高带宽内存）把 DRAM 裸片堆叠起来，用很宽的接口与计算芯片相连，因此带宽能达到每秒 TB 级，而普通内存通常只有每秒几十 GB。对大模型来说，每一步计算都要把权重从显存里读出来，带宽往往比运算单元更早成为瓶颈。

同一张表列出 310 W 的功耗包络（power envelope）和 7 纳米国产工艺^[1]。功耗包络指的是服务器在散热和供电上必须按之设计的预算上限，它决定了单机柜能塞进多少张卡。工艺一栏则说明这块芯片由 7 纳米级的国产产线制造。

互联

华为的表格把 HCCS 和 PCIe 4.0 列为 910B 的互联方式^[1]。PCIe 4.0 是通用的串行接口，负责把加速卡接到主机处理器和外围设备上。HCCS 则是华为自有的芯片间互联，用于把多张昇腾卡连在一起——当一次训练任务跨越多张卡时，梯度或激活值就要沿着这条链路交换。互联带宽的高低，常常直接决定一个负载能扩展到多少张卡。

不支持 FP8

表格还明确写着，910B 不支持 FP8^[1]。FP8 是一种 8 位浮点格式，目的是进一步提高吞吐、压缩显存流量，代价是数值范围和精度都有所损失。910B 缺少这一格式，意味着想用它的任务只能退回 FP16 或 INT8。

在谱系中的位置

同一份对比还列出了 910C：它在一个封装里放入两颗裸片（die），FP16 算力达到 640 TFLOPS^[1]，约为 910B 的两倍。这一提升不是靠做出一颗更大的芯片，而是靠把两块硅片装进同一个封装。把表格前后对照着看，910B 正好处在昇腾 910 与双裸片的 910C 之间：一边是 2023 年量产、FP16 吞吐约为 910 两倍的这一代，另一边是算力翻倍的新封装形态。对规划集群的人来说，这意味着需要把显存容量、带宽、功耗和互联放在一起考虑，而它所支持的精度到 FP16 与 INT8 为止。