NVIDIA Tesla K80

是什么

Tesla K80 是一块加速卡（accelerator board）：插在服务器里，配合主处理器承担繁重的数值计算。NVIDIA 于 2014 年 11 月在路易斯安那州新奥尔良举行的 SC14 大会上发布了它 ^[1]。它属于 NVIDIA 的 Tesla 产品线，面向数据分析与科学计算，而不是用来驱动显示器。

这类板卡的基本思路是：许多科学计算和数据处理任务由海量彼此相似的算术运算组成，可以同时进行。GPU 由大量小型算术单元构成，能够并行开工，因此在处理这类任务时比一次只做一件事的通用处理器更高效。

一块板卡上的两颗 GPU

K80 的特点在于它不是一颗 GPU，而是两颗。NVIDIA 的板卡规格书列出，一块 K80 上有两颗 GK210 GPU，整板最大功耗 300 W ^[2]。两颗芯片合计 4,992 个 CUDA 核心 ^[1]。CUDA 核心是 NVIDIA GPU 内部的单个算术通道，数量越多，芯片一次能并行发出的运算就越多。

显存也按同样的方式一分为二：整板 24 GB GDDR5 显存，每颗 GPU 12 GB，整板显存带宽 480 GB/s ^[1][2]。显存带宽之所以重要，是因为许多数据密集型任务的瓶颈不在算术单元算得多快，而在数据能以多快的速度从显存送到算术单元。

NVIDIA 给出的性能数字

NVIDIA 称，K80 的单精度峰值性能最高可达 8.74 万亿次浮点运算每秒（TFLOPS），双精度峰值性能最高可达 2.91 万亿次浮点运算每秒 ^[1]。这些是峰值数字，指硬件在理想条件下的理论上限，真实应用跑出来的成绩会低于此。

两个数字之间的差距来自一种有意的设计取舍。双精度（double precision）每个数保留的位数大约是单精度的两倍，而科学仿真通常需要双精度，因为长时间计算中舍入误差会不断累积。双精度快的硬件制造成本更高，所以加速卡的单精度性能一般远高于双精度性能。

NVIDIA 还表示，K80 的性能接近上一代 Tesla K40 的两倍，显存带宽也是 K40 的两倍 ^[1]。

在 accelerator 发展中的位置

K80 体现了数据中心加速卡此后常见的一种做法：与其把单颗芯片做得越来越大，不如在一块板卡上放两颗 GPU，让软件把它们当作一对设备来使用。这样每颗芯片都能保持在可制造的尺寸内，同时提高一张卡能为服务器提供的算力和显存。

300 W 的上限是同一思路的另一面。一个机柜能给每张卡提供的供电和散热有限，因此代际提升必须来自在相近的功耗预算内做更多的事——在这里就是相对上一代板卡把显存带宽和核心数量都翻倍 ^[1][2]。