NVIDIA A10

是什么

NVIDIA A10 是一款面向数据中心的 GPU。它基于 NVIDIA 的 Ampere 架构，搭载第二代光线追踪核心（RT Core）和第三代张量核心（Tensor Core）^[1]。这两类计算单元决定了这张卡能同时做两类事情：光线追踪核心负责光线追踪，也就是渲染逼真画面背后那种大量几何计算；张量核心负责矩阵运算，而神经网络本质上就是大量矩阵运算。把两者放在同一颗芯片上，是 A10 的设计思路。

卡上的规格

NVIDIA 的数据表列出 24 GB GDDR6 显存和 600 GB/s 显存带宽，整卡功耗控制在 150 W 以内^[1]。显存容量和带宽对 GPU 任务很关键，因为大模型和大画面需要不断在显存里进出；24 GB 决定了在不拆分的情况下，一次能装下多大的模型或场景。

算力方面，NVIDIA 列出 31.2 TFLOPS 的 FP32、125 TFLOPS 的 FP16 张量核心算力和 250 INT8 TOPS，稀疏（sparsity）还能让张量核心的数字翻倍^[1][2]。这些数字对应不同的精度。FP32 是标准单精度运算。FP16 用一半的位数存数字，对神经网络推理通常够用，硬件每秒能做的运算因此更多。INT8 更窄，用 8 位整数，常用于运行已经训练好的模型，只要精度损失可以接受。稀疏指的是跳过取值为零的权重，模型具备这种结构时，张量核心的数字就能翻倍。

形态

NVIDIA 把 A10 做成单槽、全高、全长（full-height, full-length）的 PCIe Gen4 卡^[1]。单槽宽度是个很实际的细节：标准机架服务器的扩展槽数量固定，一张只占一个槽的卡，能让系统装进更多 GPU，或者让 GPU 和其他扩展卡共存。PCIe Gen4 是这张卡插入的主机接口。

用来做什么

NVIDIA 把 A10 定位用于主流企业服务器中的图形、虚拟工作站、视频和 AI 推理^[1]。这份清单刻意写得宽。虚拟工作站指的是桌面跑在服务器上、再串流给远程用户，需要数据中心里的图形加速。视频指的是编解码视频流。AI 推理指的是运行已经训练好的模型来给出结果，与训练模型相对。共同点是：这些都是普通公司的服务器可能被要求承担的工作，而不是一台专用的训练机器。

处在什么位置

NVIDIA 表示 A10 的推理性能最高可达 T4 的 2.5 倍^[1]，T4 是它在这个角色上要接替的上一代产品。这个比较明确说的是推理。这与它的定位一致：A10 被呈现为一张给需要同时处理多种工作的服务器使用的通用加速卡，而不是为单一任务打造的卡。