NVIDIA DGX Spark

是什么

NVIDIA DGX Spark 是 NVIDIA 打造的一台用于运行 AI 模型的小型计算机。它属于 DGX 系列，即 NVIDIA 为 AI 计算设计的机器家族，但它摆在桌面上，而不是机架里。它的核心是 GB10 Grace Blackwell 超级芯片（superchip），这颗芯片把 20 核 Arm CPU 和一块 Blackwell GPU 组合在一起^[1]。

怎么构成

在 CPU 一侧，NVIDIA 为 DGX Spark 列出 20 个 Arm 核心，其中 10 个是 Cortex-X925，10 个是 Cortex-A725^[1]。Arm 设计这类核心并把方案授权给芯片厂商；两种核心面向不同的任务，X925 偏重单线程的繁重计算，A725 偏重较轻的后台工作，混搭在一起可以让系统在快核心与省电核心之间分配负载。把 CPU 与 GPU 放进同一个封装，还能让两者共用内存，而不必通过额外的通道来回搬运数据。

NVIDIA 给出的性能指标是最高 1 petaflop 的 FP4 AI 算力^[1]。1 petaflop 即每秒一千万亿次运算。FP4 是一种非常紧凑的数值格式，每个数只占 4 位；AI 芯片采用这类低精度格式，是因为更短的数能让硬件在同样的电路上吞吐更多数值，代价是牺牲一部分数值精度。

内存与能跑的模型

NVIDIA 提供 64 GB 或 128 GB 两种 LPDDR5X 一致统一内存（coherent unified memory），带宽为 273 GB/s^[1]。「一致统一」的意思是 CPU 和 GPU 访问的是同一个内存池，而不是各自保留一份数据，因此载入内存的模型对两类处理器都直接可见，无需复制。

正因为所有数据都放在这一个池子里，一台机器能装下多大的模型，主要取决于内存容量。参数是模型学到的权重，推理（inference）则是让训练好的模型实际给出结果，而不是继续训练它。NVIDIA 表示，单台 128 GB 的 DGX Spark 可以对最多 2000 亿参数的模型做推理，而 4 台互联的系统合计可达 512 GB 内存、支持 7000 亿参数^[1]。

体积与功耗

NVIDIA 为 GB10 芯片列出 140 W 的热设计功耗（thermal design power），并配 240 W 的电源^[1]。热设计功耗指芯片设计上可以持续散发的热量，它决定了整机需要多大的散热能力和多强的供电；两个数字之间的差值，留给系统中其他部件。机箱尺寸为 150 毫米 × 150 毫米 × 50.5 毫米，重 1.2 kg^[1]。

在序列中的位置

NVIDIA 的 DGX 系统一向多为数据中心里的大型机器，Spark 则是同一品牌下桌面大小的机型。Blackwell GPU、最多 128 GB 的一致内存池，以及把多台机器连接起来的能力，这三者合在一起界定了这台机器的用途：当工作能装进它的内存上限时，用一台本地机器替代共享服务器；当模型装不下时，则通过连接多台系统来扩容。