英伟达 L40S

是什么

英伟达 L40S 是一块基于 Ada Lovelace 架构的数据中心处理器。英伟达把它定位为在数据中心里同时承担 AI 与图形两类负载的卡，而不是只做其中一类^[1]。这个双重定位决定了它的规格取向：较大的显存、面向神经网络的矩阵运算吞吐，以及一整套用于渲染和视频处理的硬件单元。

显存与算力

这张卡配有 48 GB GDDR6 显存，带误差校正码（ECC），显存带宽 864 GB/s^[1]。ECC 的作用是发现并纠正偶发的位翻转，对连续运行数周的长任务尤其重要。显存容量决定一次能装下多大的模型、多大的批次或多复杂的场景，带宽则决定这些数据能以多快速度送到计算单元。

算力方面，英伟达给出的数字是 FP32 91.6 TFLOPS，张量核心（Tensor Core）在 TF32 下 366 TFLOPS、FP16 下 733 TFLOPS、FP8 下 1,466 TFLOPS，后三项都是稀疏（sparsity）条件下的数值^[1]。稀疏指的是网络中大量权重已被剪枝为零，一部分乘加运算可以跳过，因此稀疏数字描述的是理想情况，普通稠密模型达不到这个水平。FP16、FP8 这类低精度格式用范围或精度换取吞吐，所以更多用在推理已训练好的网络，而不是从头训练。

核心数量上，它包含 18,176 个 CUDA 核心、568 个第四代张量核心和 142 个第三代光线追踪核心（RT Core），RT 核心性能标为 212 TFLOPS^[1]。联想为同一型号给出的规格表中，RT 核心性能是 209 TFLOPS^[2]，差距很小，说明不同厂商在取整或测量条件上会略有出入。

外形、供电与主机接口

L40S 是双槽全高卡，尺寸为 4.4 英寸 × 10.5 英寸，采用 16 针供电接口和被动散热^[1]。被动散热意味着板卡自身没有风扇，靠服务器机箱把气流压过散热片，因此它适合装在风道为这类卡设计过的机器里。最大功耗 350 W，通过 PCIe Gen4 x16 与主机连接，双向带宽 64 GB/s^[1]。

没有提供的两项功能

这张卡既不支持 NVLink，也不支持多实例 GPU（MIG）切分^[1][2]。NVLink 是英伟达在 GPU 之间建立的直连高带宽通道，没有它，多卡之间只能经 PCIe 或网络交换数据。MIG 则把一块 GPU 切成若干互相隔离、各自持有独立显存的实例，没有它，共享一块卡要靠 vGPU 之类的软件分时实现。两项功能同时缺席，说明这张卡设想的是普通服务器里跑许多互不干扰的任务，而不是把一个大任务铺在一整套 NVLink 互联的卡上。

媒体引擎与虚拟化

它包含三路 NVENC 编码器和三路 NVDEC 解码器，支持 AV1 的编码与解码^[1]。AV1 是一种视频压缩格式，用专用引擎做编解码可以不占用通用计算核心。这张卡同时支持 vGPU 软件^[1]，因此一块物理卡可以分给多个虚拟机使用。

怎么理解这张卡

把规格放在一起看：Ada Lovelace 架构、48 GB 带 ECC 的显存、350 W 功耗、标准 PCIe Gen4 接口、被动散热，再加上张量核心与光线追踪核心两套计算单元——它想覆盖的是同一台机器上的两类工作，代价是放弃多卡直连与硬件切分。读它的算力数字时要注意脚注：张量核心的 TFLOPS 以稀疏为前提，RT 核心的数字在英伟达与联想的规格表之间略有差异，而任何单一峰值数字都不能说明某个具体负载跑得多快。规格表能确定回答的是另一些事：显存多大、功耗多高、走什么接口、哪些功能没有——这些往往才决定一块卡能不能装进某台服务器、跑不跑得了某项任务。