AMD Instinct MI355X

是什么

AMD Instinct MI355X 是一块面向人工智能负载的数据中心图形处理器（GPU）。它属于 AMD 的 Instinct MI350 系列，该系列于 2025 年 6 月 12 日发布。^[1] 芯片基于 CDNA 4 架构——这是 AMD 用于计算型 Instinct 加速器的架构，而不是用于绘制图像的显卡架构。^[1]

这类加速器不是台式机零件。它们以多块为单位装进服务器，云厂商或研究机构实际采购的是整台服务器。因此下面大部分数字描述的是单块芯片，而买家最关心的两个数字——一台机器有多少显存、多少算力——要看八卡平台那一组。

显存与算力

AMD 的规格表为 MI355X 列出 288 GB 的 HBM3E 显存和 8 TB/s 的显存带宽。^[1] 高带宽内存（HBM，high-bandwidth memory）的做法是把内存裸片垂直堆叠起来，与处理器放在同一个封装上，从而缩短数据在计算单元和内存之间要走的路，让传输速率做得很高。容量之所以重要，是因为一个大模型的权重，加上模型回答长问题时不断累积的中间值，都必须放进显存；一旦放不下，计算就得拆到多块芯片上，或者通过更慢的链路来回搬运。

在计算侧，AMD 列出每块芯片最多 256 个计算单元（compute unit）。^[1] 计算单元是 GPU 内部重复出现的处理块，GPU 在它们之间来回切换，让运算流水线保持忙碌；在相同时钟频率下，数量越多，同时在处理的工作就越多。

公布的精度表给出 78.6 TFLOPS 的 FP64 和 2.5 PFLOPS 的 FP16 矩阵算力。^[1] FP64 即双精度，至今仍用于一部分科学计算模拟；FP16 即半精度，机器学习多年前就已大量转向这一格式。规格表还列出 5 PFLOPS 的 MXFP8/OCP-FP8、10.1 PFLOPS 的 MXFP6 和 10.1 PFLOPS 的 MXFP4 矩阵算力。^[1] MX 系列属于微缩放格式（microscaling）：数值按小块存储，每块共用一个缩放因子，这样一块之内可以用 8 位、6 位或 4 位的短数字，而不至于损失太多表示范围。每个数值占的位数减半，同样时间能处理的数值数量大致翻倍，所以 MXFP8 的数值是 MXFP4 的一半。这张表呈现的格局——较小的 FP64 数字紧挨着很大的低精度数字——反映的是一块围绕神经网络训练与推理塑形的芯片，而不是围绕传统双精度模拟。

整机、功耗与散热

AMD 表示，一套八卡 MI355X 平台提供 2.3 TB 的 HBM3E 和 80.5 PFLOPS 的 MXFP4 算力。^[1] 这组数字描述的是一台完整的服务器节点，也决定了哪些模型能装进一台机器。

AMD 的中文规格表列出 MI355X 的典型板卡功耗最高 1400 W，并说明它采用直接液冷（direct liquid cooling）。^[2] 直接液冷指的是把冷却液用管路送到贴在芯片上的冷板，而不是靠风扇吹动空气穿过机箱。当板卡功耗进入四位数瓦特，纯风冷已不现实，液冷因此是设计前提而不是可选项。

软件与可得性

AMD 在发布 MI350 系列的同时推出了 ROCm 7。^[1] ROCm 是 AMD 的 GPU 计算软件平台，编译器、数值库和机器学习框架都建立在它之上。一块芯片能否真正投入使用，取决于软件栈是否支持模型需要的算子，所以软件栈的新版本是产品发布的一部分，而不是附赠品。

AMD 表示 MI350 系列已通过主要云厂商提供，并由 Dell、HPE 和 Supermicro 集成成系统。^[1] 云上可用很关键，因为许多团队并不直接采购加速器，而是按小时租用。

处于什么位置

AMD 把 MI350 系列定位为对标英伟达 Blackwell 一代的生成式 AI 推理产品，并称其相比自家的 CDNA 3 加速器在推理上有 35 倍提升。^[1] 推理（inference）指运行一个已经训练好的模型来产生输出，与训练不同，它是支撑聊天机器人服务成本的主要负载。这类对比取决于用的是哪些模型、批大小、精度和软件版本，因此这个倍数描述的是一次具体测量，而不是放之四海的比值。