Meta MTIA 第二代

是什么

Meta MTIA 第二代（Meta MTIA v2）是 Meta 自研 AI 芯片「Meta 训练与推理加速器」（Meta Training and Inference Accelerator，MTIA）的第二代产品，Meta 于 2024 年 4 月 10 日公布了这一版本 ^[2]。它不是对外销售的芯片，Meta 把它设计用来服务自家系统上的排序与推荐模型 ^[1]。

由来

名字本身就说明了它的位置。在第一代 MTIA 之后，Meta 把第二代描述为同一条路线上的升级：新芯片的算力和内存带宽都比上一代方案提高了一倍以上 ^[1]。单看算力，Meta 给出的数字是稠密算力为 MTIA v1 的 3.5 倍、稀疏算力为 7 倍 ^[1]。功耗也随之抬升：热设计功耗（thermal design power，TDP）从第一代的 25 W 提高到 90 W ^[1]。

怎么造的

按 Meta 公布的规格表，这颗芯片采用台积电（TSMC）5 纳米工艺，主频 1.35 GHz ^[1]。计算部分组织成 8×8 的处理单元阵列 ^[1]，也就是 64 个单元并行工作——这是把矩阵运算摊到整块芯片上的常见做法。为这些单元供数的是 256 MB 片上内存，带宽 2.7 TB/s，片外则是 128 GB 的 LPDDR5，带宽 204.8 GB/s ^[1]。Meta 列出的算力指标是：带稀疏性的 INT8 GEMM 708 teraflops，稠密 354 teraflops ^[1]。

同期报道引用的数字略有出入：证券时报报道称新芯片转向台积电 5 nm 工艺，片上内存 256 MB，频率 1.3 GHz，并称在 Meta 的早期测试中性能是第一代 MTIA 的 3 倍 ^[2]。

怎么部署

Meta 说这颗芯片装在一套机架式系统里，最多可容纳 72 颗加速器，分布在 3 个机箱中，每个机箱 12 块板卡、每块板卡 2 颗加速器 ^[1]。加速器通过 PCIe Gen5 与主机相连 ^[1]。也就是说，Meta 交付的不只是一块芯片，而是一整套带板卡、机箱、主机连接和机架级加速器数量的方案。

意义

它的意义不在于刷新某个通用基准，而在于说明大型互联网公司如何为自己的一类工作负载定制硅片。Meta 明确说新 MTIA 是为排序和推荐模型设计的 ^[1]：这类模型要对海量请求做评估，因此对内存带宽、对单个机架能塞进多少加速器都很敏感 ^[1]。354 teraflops 的稠密算力、2.7 TB/s 的片上带宽这些数字，只有放回这类模型上才有意义，它们与用来训练超大模型的芯片的对外指标不是同一回事。

两代之间的跨度在规格表里就能看出来：热设计功耗从 25 W 升到 90 W ^[1]，稠密算力是 MTIA v1 的 3.5 倍、稀疏算力是 7 倍 ^[1]，存储上则是一块高速的 256 MB 片上内存配一大块片外 LPDDR5 ^[1]。放在一起看，这是一颗按特定一类模型定尺寸的芯片，而不是面向通用计算的芯片。