- 类型
- AI accelerator
- 显存(GB)
- 196
- 显存类型
- HBM3
- 发布日期
面向超大规模训练的旗舰芯片
思元690是寒武纪的旗舰加速芯片,于2026年初进入量产[1]。寒武纪把它定位在超大规模训练任务上,也就是那种把一个模型铺到很多颗芯片上、持续训练很久的工作负载[1]。这一定位解释了它规格表的样子:上面的每一个数字,说的都是一台设备能装下多少计算、能以多快的速度与集群中的其他部分交换数据。
这些数字分别意味着什么
芯片采用双裸片(dual-die)封装[1]。它不是一整块硅片,而是两颗裸片放在同一个封装里,在软件看来仍是一颗加速器。把计算拆到两颗裸片上,可以让一个封装承载比单颗裸片更多的算力,代价是两颗裸片之间需要一条高速、耗电的互连通道——在这个尺度上,封装因此和电路设计一样成为核心工程问题。
算力标称为FP16下超过700 TFLOPS[1]。TFLOPS指每秒一万亿次浮点运算;FP16是16位浮点格式,用精度换吞吐,被广泛用于训练。这个数字是在单一精度下的峰值速率,并不等于一次真实训练所能达到的水平:实际吞吐取决于模型、批大小(batch size),以及软件能否让计算单元持续满载。
内存为196 GB的HBM3[1]。高带宽内存(high-bandwidth memory,HBM)把DRAM裸片垂直堆叠,并通过很宽的接口与计算裸片相连,因此能提供远高于普通内存颗粒的带宽。容量决定了模型及其中间激活值中有多少可以常驻在设备上,而不必反复搬运到别的芯片;HBM3是这颗芯片所用的内存标准代次。
实测互连带宽超过890 Gbps[1]。互连是加速器之间的管路。在超大规模训练的尺度上,它常常决定继续增加芯片是否还能继续带来速度提升,因为芯片之间必须不断交换梯度等数据。
它在系统中的位置
像思元690这样的产品,更适合被理解为系统中的一个部件,而不是一件孤立的产品。算力、内存容量、内存带宽、芯片间带宽和软件栈必须彼此匹配;某一项数字很漂亮,并不能单独决定一个训练任务跑得多快。寒武纪把这颗芯片对准超大规模训练[1],意味着它进入的是客户按集群而非按单卡采购的那部分市场,实际问题是大量设备能否稳定可预期地协同工作。
公开的规格所确立的,是这颗芯片的级别:双裸片封装、大容量的高带宽内存池、超过700 TFLOPS的FP16峰值速率,以及足以支撑多芯片任务的互连速度[1]。这些正是大型训练加速器被比较的几个维度,思元690也正是在这些维度上进入量产[1]。
[1]: 21世纪经济报道,《科创板首支万亿股诞生,寒武纪年内涨超75%》
版本时间线
3-
2021
-
2021 年
寒武纪思元370
寒武纪第三代云端AI芯片,2021年发布:7 nm芯粒方案封装两颗计算裸片,INT8算力256 TOPS,支持LPDDR5内存与多芯互联,定位为具性价比的推理产品。
-
2021 年
寒武纪思元370
-
2023
-
2023 年
寒武纪思元590
思元590是寒武纪2023年发布的第四代云端AI芯片,采用7纳米工艺,训练与推理通用,面向千亿参数级模型,也是公司第五代MLUarch微架构的代表产品。
-
2023 年
寒武纪思元590
-
2026
-
2026 年
寒武纪思元690 · 本页
寒武纪的旗舰加速芯片思元690于2026年初量产,采用双裸片封装,FP16算力超过700 TFLOPS,配备196 GB HBM3内存,面向超大规模训练任务。
-
2026 年
寒武纪思元690 · 本页
20261
-
里程碑寒武纪思元690量产
寒武纪下一代云端训练旗舰芯片思元690于2026年初进入量产,采用双die封装,FP16算力超过700 TFLOPS,配备196 GB HBM3内存,补齐了公司的高端算力版图。
开发方1
前代1
注释与来源
- 科创板首支万亿股诞生,寒武纪年内涨超75%https://www.21jingji.com/article/20260701/herald/b710206b0faa100cc6b32d81a47ca653.html
引用本页: 寒武纪思元690. TellWorld, https://www.tellworld.net/zh/compute/cambricon-mlu690. 更新于 2026-11-08