寒武纪思元590

是什么

思元590（MLU 590）是寒武纪的第四代云端AI芯片，2023年发布^[3]。它采用7纳米工艺，是公司训练与推理合一的主力芯片，面向千亿参数级的大模型^[1][2]。

训练，是指让模型反复读取大量数据、不断调整内部权重，直到它的输出符合预期；推理，则是用训练好的模型去回答实际请求。一颗芯片如果能同时承担两件事，同一个集群就不必为训练和推理分别采购两种机器。参数是模型内部被学习出来的数值，说「面向千亿参数」，其实是在说硬件要提供多大的内存容量和内存带宽：光是这些权重本身就要装得下，而且要被反复搬运。

怎么做的

思元590所对应的硬件已经发展到第五代 MLUarch 微架构^[1]。微架构指的是处理器内部的组织方式——计算单元、数据通路、指令集怎么安排；换代通常意味着喂给计算单元的数据更顺畅，而不只是单元更多。

这颗芯片支持芯粒（chiplet）异构集成和 MLU-Link 8卡互联^[1]。芯粒集成是把处理器拆成多块小芯片分别制造、再封装到一起，好处是不同部分可以用不同的工艺来做。MLU-Link 则负责让一台机器里的8张卡互相交换数据，使一组芯片可以当作一个更大的整体来用。

算力通常按集群口径给出：一个由思元590组成的集群，FP16 算力达到 2.048 PFLOPS^[1]。FP16 是 AI 计算中常见的16位浮点格式，相比32位格式，每个数占用的存储和带宽都减半，代价是精度略有损失。发布时，这颗芯片的算力参数是对标英伟达 A100 的^[3]——在当时，A100 是买家和评测者衡量加速卡时最常用的参照。

软件

芯片能不能用起来，取决于框架跑不跑得动。寒武纪的 NeuWare 软件平台，目标是让一次开发的代码能在自家各代芯片上运行，同时保持与主流 AI 框架的兼容^[1]。这件事和峰值算力同样重要：如果换一颗加速卡就要重写训练流程，迁移成本会高得吓人；而尽量少改代码就能搬过去，试用门槛就低得多。

出货与部署

按公司自己的时间线，思元590通过了互联网客户的测试，2024年开始出货^[3]。据报道，字节跳动累计部署的思元590和690芯片超过10万颗^[2]。上面那个 FP16 集群算力数字，来自一份2025年年报点评^[1]。对这类硬件来说，被互联网公司大规模部署是一个有分量的信号，因为这类客户跑的是持续、沉重的工作负载，而不是短期的试验。

在发展中的位置

在寒武纪的产品序列里，思元590是第四代云端芯片，也是 MLUarch 设计走到第五代的那一款^[1][3]。它的定位很能说明公司云端路线的形态：一颗芯片兼顾训练与推理，瞄准超大模型，卡间有互联可以成组使用，软件栈又在整个产品家族中共享——卖的不是孤立的加速卡，而是一套可以成簇、可以编程的系统。