Tenstorrent Blackhole

Blackhole 是 Tenstorrent 的 AI 加速芯片，Galaxy Blackhole 则是这家公司围绕它搭建的服务器。Tenstorrent 列出的配置是：整机装 32 颗 Blackhole 专用集成电路（ASIC），block FP8 算力为 23 PFLOPS。^[1]

一张由很多小核组成的卡

按 Tenstorrent 的文档，一张 Blackhole 卡上有 240 个 Tensix 核，每个 Tensix 核配 1.5 MB 的 SRAM，整卡另有 64 GB 的 GDDR6。^[2] Tensix 是 Tenstorrent 设计中反复出现的基本计算单元，一张卡本质上就是这些单元排成的大阵列，四周配上存储器。

这个排法值得说明。芯片没有把算力集中在少数几个很宽的计算单元上，而是摊到几百个体量适中的核上，每个核旁边都有自己的存储。把操作数留在近处的 SRAM 里，就不必反复搬到片外存储器再搬回来——而在以矩阵为主的 AI 计算里，数据搬运恰恰是时间和能耗的大头。片上小存储放不下的部分，由每卡 64 GB 的 GDDR6 承接。

服务器算力所标的 block FP8（分块 8 位浮点）是一种低精度数字格式：数值按块分组，同一块共用缩放因子，硬件因此只需为每个数花很少的位，同时保住可用的动态范围。每个数占的位少了，同样的功耗和带宽下就能做更多运算，代价是精度有所损失，训练和推理软件用缩放与累加的办法消化这部分误差。

Galaxy Blackhole 整机

除了 32 颗芯片合计 23 PFLOPS 的 block FP8 算力，Tenstorrent 还公布了整机的存储层级：6.2 GB 加速器 SRAM，带宽 2.9 PB/s；1 TB GDDR6，带宽 16 TB/s。^[1] 这两层各司其职：SRAM 一层容量小、速度极快，GDDR6 一层容量大得多、速度慢不少。两者的比例，大致决定了多大的工作负载必须待在快的那一层里才能跑好。

网络是这个设计最有特点的地方。每颗 Blackhole 芯片带 10 条 400 Gb 以太网链路，32 颗芯片合起来构成 32 TB/s 的加速器互联带宽。^[1] 要把服务器再连成更大集群，Tenstorrent 列出最多 56 个 800 Gb 的 QSFP-DD 端口，提供 11.2 TB/s 的集群横向扩展带宽。^[1] 以太网（Ethernet）是部署广泛的通用互联标准，并非只为加速器设计的专用链路，而这里芯片之间的互联和对外扩展都建立在它之上。

功耗方面，整机的标称是平均 8 至 10 kW、最大 12 kW，可配置到 14.5 kW。^[1] 这些数字和算力数字同样重要：它们决定了数据中心实际能放什么、能跑什么，也解释了为什么这一级别的加速器总是连同供电与散热条件一起被讨论，而不是只当成一张卡。

从一颗芯片到上千颗的同一套编程模型

Tenstorrent 说，它的 Tensix Neo 架构可以在一套编程模型下、经由一张以太网网格，从单颗芯片扩展到上千颗。^[1] 前面那些数字正是为这句话作支撑：一张卡有 240 个核，一台服务器有 32 张卡，一个集群有若干台服务器，它们被期望用同一套词汇描述，为单颗芯片写的软件不必为整个机柜重写。

把这些公开数字放在一起看，Blackhole 呈现的是一台层级写得相当清楚的机器：每个核的 SRAM、每张卡的 GDDR6、每颗芯片的以太网链路、每台服务器的 QSFP-DD 端口，以及一段区间而非一个点的功耗。因此理解它更合适的方式，不是记住单个峰值数字，而是看几组比例——存储带宽与容量的比例、网络带宽与算力的比例、性能与功耗的比例——这些比例决定了什么样的负载在它上面跑得好。