百度开源 ERNIE-4.5-21B-A3B-Thinking 深度思考模型

背景

百度在 ERNIE 4.5 系列上采取开源路线。2025 年 6 月 30 日，百度开源了 10 个 ERNIE 4.5 模型，让外部开发者可以下载并在自己的环境中运行。^[1] 9 月发布的这个模型属于深度思考（deep-thinking）模型。所谓深度思考，通常指模型在给出最终答案前先生成一段中间推理过程，把复杂问题拆成若干步骤再作答。逻辑题、数学题和代码生成往往受益于这种多步处理。

发布

2025 年 9 月 9 日，在 WAVE SUMMIT 2025 上，百度开源了 ERNIE-4.5-21B-A3B-Thinking。^[1] 这次发布提供的是开放权重，开发者拿到的是模型参数，而不只是调用一个托管接口。百度把它定位在逻辑、数学、代码生成和工具使用上，并支持函数调用（function calling）。^[1][2] 函数调用指模型可以输出结构化的工具请求，由外层应用去执行，例如查询数据库或调用某个服务；模型本身不直接执行这些操作。

结构与上下文

它是一个混合专家（mixture-of-experts，MoE）模型，总参数 210 亿，激活参数 30 亿。^[1][2] 混合专家的做法是：每个输入 token 只被路由到一部分“专家”网络，而不是经过全部参数。因此，总参数量会大于单个 token 实际用到的参数量。这个区别对部署有实际意义：显存占用与总规模相关，而每个 token 的计算量更接近激活规模。百度给出的上下文窗口为 128K，^[1][2] Hugging Face 的配置中写明的上下文长度为 131,072 个 token。^[2] 上下文窗口越长，一次能处理的代码、文档或对话记录就越多。

能力说明

Hugging Face 模型卡称，该模型在逻辑推理、数学、科学、代码生成和文本生成方面都有显著提升。^[2] 这些正是百度为此次发布强调的方向。数学和代码属于典型的多步任务：解题或写程序时，中间步骤会影响最终结果；工具使用则要求模型判断何时需要调用外部函数、以及如何组织请求。

获取与运行

模型以 Apache 2.0 许可证发布，可在 Hugging Face 和百度 AI Studio 获取。^[1][2] Apache 2.0 是常见的宽松开源许可证，允许使用者修改和再分发，具体仍需遵循许可证条款。模型卡给出了多种运行方式的说明，包括 Transformers、vLLM、SGLang、Docker Model Runner 和 FastDeploy。^[2] 对开发者来说，这意味着可以从几种常见推理框架中选择一种来加载模型，而不必从零搭建服务流程。

在 ERNIE 开源序列中的位置

这次发布紧接着 2025 年 6 月 30 日开源 10 个 ERNIE 4.5 模型之后。^[1] 百度由此在已公开的模型之外，增加了一个开放权重的深度思考模型。对开发者而言，意义很具体：一个面向多步推理、数学、代码生成和工具调用的模型，可以下载、检查，并在自有基础设施上部署，许可证是标准的 Apache 2.0。^[1][2]