AWS Trainium2

是什么

AWS Trainium2 是亚马逊云科技（Amazon Web Services，AWS）的第二代自研机器学习芯片，接替第一代 Trainium。AWS 给出的代际提升幅度是：Trainium2 的性能最高可达第一代 Trainium 的 4 倍^[1]。2024 年 12 月 5 日，AWS 在 re:Invent 大会上宣布该芯片正式可用（general availability）^[2]。「正式可用」意味着它不再是预览形态，任何客户都可以直接购买和使用。

怎么组成算力

客户并不直接买芯片，而是通过 EC2——AWS 的云服务器服务——按实例租用。AWS 把 Trainium2 做成两种规格：Trn2 实例最多包含 16 颗 Trainium2 芯片；Trn2 UltraServer 最多包含 64 颗芯片，芯片之间通过 AWS 称为 NeuronLink 的互联技术连接^[1]。

第二种规格的意义来自大模型的训练方式。一颗芯片装不下一个现代大模型的全部参数，训练必须把工作分散到许多芯片上，而芯片之间要不停交换数据；决定整体速度的不只是芯片本身，还有芯片之间的连接。AWS 给出了两种规格的浮点算力：16 颗芯片的 Trn2 实例最高 20.8 petaflops，64 颗芯片的 Trn2 UltraServer 最高 83.2 petaflops^[2]。1 petaflops 即每秒一千万亿次浮点运算，是衡量系统数值计算能力的常用单位。

性能与价格

AWS 不只讲速度，也讲成本。它称基于 Trainium2 的 EC2 Trn2 实例和 Trn2 UltraServer，性价比比基于 GPU 的 EC2 P5e 和 P5en 实例高 30%–40%^[1]。性价比（price performance）指的是花同样的钱能换到多少算力。对比的对象是 GPU 实例，这说明了 AWS 把 Trainium2 放在什么位置：作为通用图形处理器在 AI 工作负载上的替代选项。这些数字由 AWS 自己公布，衡量口径也由 AWS 定义。

软件配套

芯片好不好用，一半在软件。AWS 为自研芯片提供的软件栈 Neuron SDK 原生集成 PyTorch 和 JAX，并支持 Hugging Face 模型库中超过 10 万个模型^[2]。实际意义在于：按主流框架写成的模型可以直接迁移到 Trainium 上，不必推倒重写，这是让一支没有围绕特殊硬件写代码的团队也能用上非 GPU 芯片的前提。

在发展中的位置

AWS 公布的最大规模部署是 Project Rainier。它表示正与 Anthropic 一起建设这个项目：一个使用数十万颗 Trainium2 芯片的 EC2 UltraCluster，算力超过 Anthropic 当时领先模型所用算力的 5 倍以上^[2]。这与单个实例已不在一个量级上，也标出了这条产品线的走向：从一支团队按实例租用的单颗芯片，走向服务单个模型开发者的数十万颗芯片的集群。对 AWS 而言，Trainium2 因此不只是一款零部件，而是把 AI 工作负载放到自己设计的硅片上运行的一步，从互联层开始向下自建。