Groq LPU（GroqChip）

是什么

GroqChip 是 Groq 设计的人工智能处理器，也是 Groq 以 LPU 名义出售的产品里的核心芯片。Groq 最强调的特性是确定性：它把 GroqChip 描述为一颗完全确定性的处理器，多次运行之间没有差异^[1]。具体说，同一段程序处理同一批数据，每次得到的结果相同、耗时也相同，不会因为调度、缓存状态或者机器上同时跑着别的任务而轻微漂移。确定性既是硬件属性，也跟任务如何调度有关；当很多芯片需要协同工作，或者系统的时序必须可预期、而不只是平均意义上够快时，这一点尤其重要。

规格

Groq 给出的工艺是 14 纳米，并标明该芯片已经量产^[1]。工艺节点指芯片的制造世代，那个数字大致表示特征尺寸有多小、单位面积的硅片上能放下多少逻辑。

算力方面，Groq 列出的是在 900 MHz 频率下最高 750 INT8 TOPS 和 188 FP16 TFLOPs^[1]。TOPS 指每秒万亿次 8 位整数运算，TFLOPs 指每秒万亿次浮点运算；两个数字对应不同的运算类型，因为神经网络的很多计算可以用低精度整数或半精度浮点完成。两组数字都是在 900 MHz 主频下给出的。主频是芯片逻辑推进的节奏，吞吐量则由每个节拍能完成多少工作决定。

存储在纸面上是这套设计最特别的地方：Groq 列出每颗芯片有 230 MB 的片上 SRAM，片上存储带宽最高 80 TB/s^[1][2]。SRAM（静态随机存储器）用与处理器相近的快速电路做成，可以放在同一块硅片上，读写速度很高；存储带宽指的是每秒能搬运多少字节。把数百兆字节放在片上、带宽以几十 TB/s 计，意味着一次计算所需的大部分数据可以留在运算单元附近，不必每次都跑去访问独立的存储芯片。

互连也集成在芯片上：Groq 列出 16 路 RealScale 芯片间互连，以及集成的 PCIe Gen4 x16 控制器^[1]。PCIe 是把加速卡接到主机上的通用接口，Gen4 x16 表示这条接口的世代与通道宽度。RealScale 是 Groq 对芯片之间直连链路的称呼，有了它，多颗芯片可以直接连成一台更大的机器，而不必把所有流量都绕回主机。

功耗给出三个数字：热设计功耗 215 W，最大 300 W，平均 185 W^[1]。热设计功耗（TDP）是系统厂商设计散热和供电时参照的数值，最大值和平均值则描述峰值负载与持续负载之间的波动。

GroqCard 板卡

在系统层面，Groq 把芯片做成 GroqCard：一张 PCIe Gen4 x16 卡上装一颗 GroqChip，卡上最多提供 11 个 RealScale 芯片间连接器^[2]。芯片本身有 16 路这样的互连^[1]，卡对外留出的最多是 11 个。插进主机的是这张卡，连接器则让多张卡可以连在一起，于是用这种卡搭出的机器是一组彼此相连的芯片，而不是单个器件。

位置

把这些规格放在一起看，可以看出三处取向：把大容量、高带宽的存储放在芯片上；把执行做成确定性的，而不只是统计意义上够快；把芯片之间的直连链路一并做进芯片本身，而不是在芯片外面另加。代价也同样写在数字里。片上存储每颗芯片固定为 230 MB，装不进这份存储的工作集必须拆分到多颗芯片上，RealScale 链路和卡上的连接器正是为此存在；而确定性的时序，让一台由许多芯片组成的机器更容易被整体推演。这些规格，就是「怎样造 AI 硬件」这个问题的一种回答的具体表述。