蚂蚁集团

是什么

蚂蚁集团旗下的 InclusionAI 团队于 2025 年 2 月发布了 Ling 系列大语言模型，中文名为「百灵」^[1][2]。这一系列模型采用混合专家（mixture-of-experts，MoE）架构，并以开放权重的方式发布：参数权重托管在 Hugging Face 与 ModelScope 上，采用 MIT 许可证，允许他人复用和修改 ^[3]。首批一同发布的有两个模型，主要区别在规模——较小的 Ling-Lite 与规模大得多的 Ling-Plus ^[1]。

由来

与模型一同发布的还有一份技术报告，报告的标题直接点明了项目目标：团队在没有高端 GPU 的条件下扩展了一个 3000 亿参数的模型 ^[1]。Ling-Plus 的模型卡创建于 2025 年 2 月 28 日 ^[2]，技术报告于 2025 年 3 月 7 日首次提交到 arXiv ^[1]。从这些材料看，这个项目是围绕硬件条件受限这一前提组织的，而不是围绕当时能拿到的最大的算力集群。

主要特点

两个模型的规模差别很大。Ling-Lite 总参数为 168 亿，其中每次计算实际激活 27.5 亿；Ling-Plus 总参数为 2900 亿，激活 288 亿 ^[1]。两者都是混合专家模型，也就是说每次计算只调用其中一部分参数，因此单次前向计算的开销远低于总参数所暗示的水平 ^[1]。

报告称，团队在性能较低的设备上训练出了 3000 亿参数的混合专家模型，同时在与同类的稠密模型和混合专家模型的比较中达到相当水平 ^[1]。为了做到这一点，报告在方法上给出了几方面贡献：架构与训练过程的优化、训练过程中异常情况的处理，以及评测效率的提升 ^[1]。报告也交代了数据侧的做法：根据报告，由知识图谱生成的训练数据让模型在工具使用（tool use）能力上强于同类模型 ^[1]。所谓工具使用，是指模型调用外部函数或程序来完成任务，而不只是依赖自身参数作答。

在发展中的位置

以 MIT 许可证开放权重，意味着这一系列模型可以被人下载、检查与改造，而不只是通过接口调用 ^[3]，权重同时发布在 Hugging Face 和 ModelScope 两个平台上 ^[3]。发布之后模型并没有停在原处：Ling-lite 在 2025 年 5 月 10 日升级为 Ling-lite-1.5，技术报告与代码仓库都记录了这次更新 ^[1][3]。

对蚂蚁集团而言，Ling 系列是公司进入基础模型研究的一份公开成果，其特点与其说体现在参数数字上，不如说体现在做法上——约 3000 亿参数的模型可以在不那么强的硬件上做出来，并且仍能与水平相当的稠密模型和混合专家模型放在一起比较 ^[1]。这一主张，连同开放的权重，以及对训练方法和异常处理过程的公开描述，是这个项目提供给读者、也提供给同样受算力限制的其他团队的参考。