AMD Instinct MI100

是什么

AMD Instinct MI100 是一款基于 AMD 第一代 CDNA 架构的 GPU 加速器。AMD 给出的制程为 7 纳米 FinFET，峰值引擎时钟为 1,502 MHz。^[1][2] CDNA 是 AMD 的 GPU 架构代际名称，MI100 属于第一代。GPU 加速器的基本作用，是让大量算术运算同时在许多计算单元上执行；也正因如此，这类产品需要成体系的显存、缓存和供电设计。

计算结构与峰值性能

MI100 有 120 个计算单元（compute unit）和 7,680 个流处理器（stream processor）。^[1] 计算单元可以理解为调度和发射工作的模块，流处理器则是其中执行算术运算的基本通道；二者配合，把一项计算分摊到大量并行通道上。对软件来说，这种组织方式意味着同一类运算可以拆成许多小任务，交给不同的通道处理。

AMD 给出的峰值指标是：双精度（FP64）11.54 TFLOPS、单精度（FP32）23.1 TFLOPS、FP32 矩阵运算 46.1 TFLOPS。^[2] 它给出的半精度（FP16）峰值为 184.6 TFLOPS，BF16 峰值为 92.28 TFLOPS。^[1][2] TFLOPS 表示每秒万亿次浮点运算，这些数字是峰值速率，不等于任何程序都能达到的速度。不同精度使用不同位宽表示数字：FP64 比 FP32 占用更多位，FP16 占用更少；BF16 是另一种 16 位格式。矩阵运算指标则对应矩阵式算术的处理能力，和普通的逐元素浮点运算不是同一个口径。

显存与功耗

MI100 配备 32 GB HBM2，显存接口位宽为 4,096 位。AMD 给出的显存数据率最高为 2.40 Gbps，对应带宽为 1.2288 TB/s。^[1] HBM2 是一种堆叠式显存；接口越宽，每个时钟周期能搬运的数据就越多。带宽高，意味着在理想情况下单位时间可以送入更多数据，但实际能用到多少还取决于程序访问数据的方式。

该卡在 32 GB HBM2 的 PCIe 形态下板卡功耗为 300 W。^[1] 板卡功耗指整块加速卡的功耗预算，而不只是 GPU 芯片本身，因此它会影响供电和散热设计。300 W 这个数字对应的是这里所说的 32 GB HBM2 PCIe 版本，而不是其他容量或形态。

AMD 还测出 MI100 的二级缓存（L2 cache）切片峰值理论带宽为 3.07 TB/s。^[1] 二级缓存是芯片上靠近计算单元的一层存储，用来暂存数据；「理论」表示这是设计上的上限，不是某个应用实际跑出的结果。

在发展中的位置

MI100 早于 MI200 系列所用的 CDNA 2 代架构。^[1] 因此它处在 AMD 计算 GPU 的较早阶段：它采用第一代 CDNA 架构，而 MI200 系列与 CDNA 2 相关。上文这些规格——120 个计算单元、7,680 个流处理器、32 GB HBM2、1.2288 TB/s 显存带宽和 300 W 板卡功耗——描述的就是这一版本。^[1]