通义千问推理模型 QwQ-32B

这是什么

QwQ-32B 是通义千问（Qwen）团队于 2025 年 3 月 6 日以 Apache 2.0 协议发布的推理模型 ^[1]。这里说的「推理模型」，指的是在给出最终答案之前，先写出一长段中间思考过程，而不是一次性作答的语言模型。这段额外的推演让它能啃下多步骤的问题，尤其是数学和代码——这类题目一旦在开头走错一步，后面就很难补救。

名字里的数字是参数规模。Hugging Face 上的模型卡给出了更精确的数字：325 亿参数，其中非嵌入部分为 310 亿，共 64 层，完整上下文长度为 131,072 个词元（token）^[3]。

怎么训练的

团队强调的重点不只是模型大小，还有训练方法。训练从一个冷启动检查点（cold-start checkpoint）出发，然后规模化地做以结果为依据的奖励的强化学习 ^[1]。强化学习大致可以理解为：让模型自己去试，然后把它往那些结果更好的尝试上调整；「以结果为依据的奖励」则意味着只看最终答案对不对，而不去评判中间每一步。

强化学习分两个阶段进行。第一阶段主攻数学和代码。团队没有使用传统的奖励模型（reward model）——那是一个单独训练出来、专门给答案打分的网络——而是用一个准确性校验器来判断数学答案，用一个代码执行服务器把生成的代码放到测试用例上跑 ^[1]。这两者都是机械判定：答案要么对要么错，代码要么通过测试要么不通过。这样就少了一个噪声来源，因为学出来的奖励模型可能被钻空子，也可能逐渐偏离人真正想要的东西。

第二阶段在规则校验器之外加入了通用奖励模型。这一步改善了指令遵循、与人类偏好的一致性和智能体（agent）表现，同时团队表示数学和代码能力没有明显下降 ^[1]。换句话说，第一阶段买到的是推理能力，第二阶段则是防止模型变得偏科、难用。

和谁比、比什么

最受关注的是一个体量上的对比：通义千问团队称，这个 320 亿参数的模型表现与 DeepSeek-R1 相若，而后者总参数 6710 亿、激活 370 亿 ^[1]。评测覆盖数学、代码和一般问题求解，对照对象包括 DeepSeek-R1、DeepSeek-R1-Distilled-Qwen-32B、DeepSeek-R1-Distilled-Llama-70B 和 o1-mini ^[1]。模型卡还报告了 MMLU-Pro 得分 69.07 ^[3]，这是一个覆盖面较广的知识与推理基准，也是这类比较常用的依据之一。

工具使用

QwQ-32B 还集成了智能体能力：它可以使用工具，并根据环境反馈调整自己的推理 ^[1]。它不必只凭记忆生成一条思维链，而是可以先动手、看看返回了什么、再改变方向。这也解释了为什么第二阶段训练会在意智能体表现——工具用得好不好，很大程度上取决于模型在工具返回意外结果时愿不愿意修改计划。

怎么用、注意什么

模型权重公开在 Hugging Face 和 ModelScope 上，也可以在 Qwen Chat 中使用，或通过 DashScope API 以 qwq-32b 的名字调用 ^[1]。模型卡里有一条实用提醒：建议使用温度（temperature）0.6、top-p 0.95，而不要用贪心解码（greedy decoding），以避免无休止的重复 ^[3]。推理模型停不下来地生成，是一种真实存在的失效情况；而哪怕带一点随机性的采样，也能打破这种循环，总是挑最可能的那个词反而做不到。

在系列中的位置

QwQ-32B 属于这样一个阶段：推理还是要由用户明确选择的、单独的一个模型，而不是通用模型内部的一种模式。它的后继者 Qwen3 于 2025 年 4 月问世，把思考模式与非思考模式合并进同一个模型家族 ^[2]。站在这之后的视角回看，QwQ-32B 是那个早期想法最清晰的一次表述：一个相对小的模型，只要用可验证的奖励下足功夫训练，就能和体积是它许多倍的模型放在一起讨论。