AMD Instinct MI350X

是什么

AMD Instinct MI350X 是用于人工智能与科学计算的数据中心 GPU，属于 AMD Instinct MI350 系列。AMD 表示该系列基于 CDNA 4 架构，也就是其面向计算负载的那条 GPU 架构线，单颗加速器最高搭载 288 GB 的高带宽内存（HBM3E）^[1]。

按 AMD 的规格，MI350X 的 288 GB HBM3E 由美光（Micron）与三星电子（Samsung Electronics）供应，带宽最高 8 TB/s；其中文规格表列出的典型板卡功耗上限为 1,000 W ^[1][2]。容量、带宽与功耗这三个数字基本决定了这种卡怎么用：容量决定一个模型能不能放进显存，带宽决定计算单元能不能被喂饱，功耗决定一整个机柜的供电和散热成本。

由来

AMD 于 2025 年 6 月 12 日发布 MI350 系列 ^[1]。AMD 把这一代描述为相对上一代的一次跃升，称 MI350 系列的 AI 算力最高达到上一代的 4 倍，推理性能最高提升 35 倍 ^[1]。这些是 AMD 自己给出的代际对比，比较对象是上一代产品。

主要特点

显存是这一代最显眼的指标。单颗 MI350X 最高 288 GB HBM3E，8 卡 MI350X 平台的 HBM3E 总量为 2.3 TB ^[1]。HBM 把内存芯片垂直堆叠、紧挨 GPU 放置，并通过很宽的接口与 GPU 相连，因此单个封装就能做到数百 GB 容量和数 TB/s 带宽。大模型通常要拆分到多张卡上运行，长输入还需要额外的显存保存中间状态，所以单卡容量和整机容量都要看。

算力方面，AMD 的规格表列出 72.1 TFLOPS 的 FP64 算力、2.3 PFLOPS 的 FP16 矩阵算力，以及 4.6 PFLOPS 的 MXFP8/OCP-FP8、9.2 PFLOPS 的 MXFP6 和 9.2 PFLOPS 的 MXFP4 矩阵算力 ^[1]。双精度（FP64）用于数值模拟，这类计算链条很长，舍入误差会不断累积；FP16 以及更窄的 8 位、6 位、4 位格式用于神经网络，用精度换吞吐。表里能直接看出这种交换：位数减半，标称矩阵算力大致翻倍，所以 6 位和 4 位的数字最大。

机柜与散热

AMD 称 MI350 系列在风冷机柜中最多支持 64 颗 GPU，在直接液冷（direct liquid cooling）机柜中最多支持 128 颗，最高提供 1.3 EFLOPS 的 MXFP4/MXFP6 性能 ^[1]。EFLOPS 指每秒百亿亿次（10 的 18 次方）浮点运算。两种机柜方案不是摆设：单板功耗上限到 1,000 W ^[2]，一柜子加速器产生的热量靠风扇已经很吃力，所以把冷却液管路接到贴在芯片上的冷板，成为更密集的一种选择。

在发展中的位置

数据中心加速卡已经很少被当成单张卡来比较。买家看的是显存容量、显存带宽、推理真正用到的低精度格式下的吞吐，以及装满一个机柜要付出多少供电与散热代价。MI350X 公布的数字——288 GB HBM3E、最高 8 TB/s、板卡功耗上限 1,000 W、机柜可扩到 128 颗——描述的是一类为大规模模型训练与推理设计的芯片，它的部署单位是机柜和数据中心，而不是一台服务器。