Google TPU7x（Ironwood）

是什么

TPU7x 又称 Ironwood，是 Google 张量处理器（TPU）家族的第七代产品，属于 Google 为机器学习负载自行设计的加速芯片。维基百科的 TPU 代际列表中，Ironwood 于 2025 年推出，配备 192 GB 高带宽内存（HBM），内存带宽 7.37 TB/s。^[3] Google Cloud 在文档中同时公布了这颗芯片的规格表，下面的数字都来自这张表以及 Google 随附的说明。^[1]

单芯片规格

按规格表，每颗 TPU7x 芯片的 BF16 峰值算力为 2,307 万亿次浮点运算每秒（teraflops），FP8 峰值算力为 4,614 teraflops。^[1] FP8 的数字正好是 BF16 的两倍，这是可以预料的：一个数占的位宽减半，同样的运算一次就能处理两倍多的数值。内存方面，规格表记为每颗芯片 192 GiB 的 HBM，Google 的说明文字则写作 192 GB，带宽约 7.37 TB/s。^[1] 高内存带宽之所以关键，是因为神经网络的主力运算矩阵乘法要反复读取同一批权重和激活值，数据喂得越快，运算单元空转的时间就越少。

规格表列出每颗 TPU7x 芯片有两个 TensorCore 和四个 SparseCore。^[1] 每个矩阵乘单元为 256×256，并支持 FP8。^[2] 芯片对外的带宽方面，表中有每颗芯片 1,200 GB/s 的双向片间互连带宽，以及 100 Gbps 的数据中心网络带宽。^[1] 前者决定同一个 Pod 内的芯片之间交换数据有多快，后者决定整个 Pod 与外部网络通信有多快。

封装与编程模型

Google 表示，每台 TPU7x 虚拟机（VM）包含 4 颗 TPU 芯片，并且所有 TPU7x 切片都使用整机托管的 4 芯片虚拟机。^[1] 机型 tpu7x-standard-4t 拥有 224 个 vCPU、960 GiB 实例内存、2 块物理网卡、最高 400 Gbps 网络带宽，以及总计 768 GiB 的 TPU HBM——正好是单颗芯片 192 GiB 的四倍，与 4 芯片虚拟机对得上。^[1]

程序员看到的并不是「一颗芯片等于一个设备」。Google 说，Ironwood 的编程模型为每颗芯片暴露两个 TPU 设备，而不再是前几代那种单一逻辑核，^[1] 因此一台 4 芯片虚拟机会向框架呈现 8 个设备。软件方面，Google 表示 TPU7x 可以用 JAX 和 PyTorch 编程，但不支持 TensorFlow。^[1] 矩阵乘单元的 256×256 形状和 FP8 支持，则是写算子的人把计算切分到这些设备上时需要参考的细节。^[2]

规模

Google Cloud 的规格表列出每个 TPU7x Pod 可容纳 9,216 颗芯片。^[1] Pod 是这套互连设计真正发挥作用的单位：正是每颗芯片 1,200 GB/s 的双向片间带宽，让成千上万颗芯片能够共同承担同一个训练任务，而不是各自为战。^[1] 每芯片两个设备的编程模型与整机托管虚拟机，则是把这样一台机器切分开、交付给软件的方式。

在发展中的位置

Ironwood 是 Google 经营多年的一条产品线的第七代，被反复提到的核心数字是内存带宽：7.37 TB/s 既出现在 Google 自己对芯片的描述里，也出现在维基百科的代际列表中。^[1][3] 从公开的规格看，这一代的其他变化包括支持 FP8 的矩阵乘单元、每颗芯片逻辑设备数翻倍、两个 TensorCore 与四个 SparseCore，以及一个覆盖 JAX 与 PyTorch、不含 TensorFlow 的框架支持范围。^[1][2] 这些都是读者可以核对的具體设计选择；至于它们在真实负载上折算成多少性能，取决于负载本身，而 Google 的表格给出的是峰值数字，不是实测结果。