AMD Instinct MI325X

它是什么

AMD Instinct MI325X 是 AMD 在 2024 年 10 月 10 日发布的数据中心加速器，属于 Instinct 产品线 ^[3]。它面向 AI 负载：既用于训练大型神经网络，也用于把训练好的模型跑给用户。AMD 在介绍中最先强调的是显存——MI325X 配备 256 GB 的 HBM3E（高带宽显存），带宽为 6 TB/s ^[1]。

内部构成

按 AMD 的文档，MI325X 基于第三代 CDNA 架构，这是其数据中心 GPU 所采用的架构系列 ^[1]。芯片内有 304 个计算单元（compute unit）^[1]。计算单元是 GPU 中重复出现的构建模块：一次计算任务会被分摊到许多计算单元上并行执行，因此单元数量只是衡量并行处理能力的粗略指标之一。架构世代同样重要，因为它决定了硬件能高效执行哪些指令和数据类型。

显存与目标模型

大语言模型在实际使用中往往受限于可用显存：权重和中间结果都要放进去。AMD 表示 MI325X 是为处理一万亿参数级别的模型而设计的 ^[1]。参数是网络中学习到的权重；一万亿个参数即便按推理常用的低精度格式存放，也已达到数百 GB，还没算上运行时的中间开销——这正是 256 GB、6 TB/s 的显存配置成为设计核心的原因 ^[1]。

在发布材料中，AMD 直接把显存与 Nvidia 的 H200 对比，称 MI325X 的容量是该产品的 1.8 倍、带宽是 1.3 倍，并称量产出货计划安排在 2024 年第四季度 ^[3]。这类对比是加速器厂商定位产品世代的方式：容量决定一个设备能装下哪些模型，带宽决定权重能以多快的速度流过计算单元。

连接方式

MI325X 配有 16 通道的 PCIe Gen 5 主机接口和 7 条 Infinity Fabric 链路 ^[1]。PCIe 接口是加速器与主机处理器之间的标准连接，16 通道指这条串行链路的宽度，Gen 5 是它所使用的 PCIe 标准世代。Infinity Fabric 链路则是 AMD 自家的互连，用来把多块加速器连接在一起。在多 GPU 服务器里，这些链路承载让多块芯片协同处理同一任务的流量，因此链路数量与速度决定了单节点能否顺畅地扩展到一块卡之外。

在产品线中的位置

AMD 后来把 MI325X 视作序列中的一步。在 MI350 系列的发布材料中，AMD 称 MI325X 为上一代系列，并重复了相同的 256 GB HBM3E 容量和 6 TB/s 带宽 ^[2]。这一措辞说明了该如何理解这款产品：它更像是在前一代基础上对显存容量的扩充，而不是一次架构换代；AMD 自己的后续文档也把它放在其后的 MI350 系列之下。

对采购方而言，MI325X 处在这样一个细分市场：期望单台设备就能装下一个非常大的模型，或至少装下其中的很大一部分，而不必拆分到许多块芯片上。它的规格表可以看作围绕这一目标的一组取舍：一边是大容量显存与宽互连，另一边是 AMD 的下一代系列将会超越的计算单元数量与架构世代 ^[1][2]。