通义千问推理模型 QwQ-32B-Preview

是什么

QwQ-32B-Preview 是通义千问（Qwen）团队于 2024 年 11 月 28 日发布的一个实验性推理研究模型^[1]。它有 320 亿参数、32K 词的上下文长度，权重以 Apache 2.0 协议开放^[2]。名字里的 preview 说明了它的定位：这是一份研究性质的发布，不是完成品，团队在发布的同时列出了它做不好的地方。

所谓「推理模型」，指的是先写出一长串中间步骤、再给出答案的模型——它会尝试、检查，有时退回重来，而不是直接吐出结论。这种做法在解题路径不明显的问题上更有用：多步算术、竞赛数学，以及必须同时满足多个约束的代码。

公布的基准成绩

团队给出了四个基准分数：GPQA 65.2%、AIME 50.0%、MATH-500 90.6%、LiveCodeBench 50.0%^[1]。Hugging Face 模型卡另外给出 MMLU-Pro 70.97^[4]。这几个基准考察的东西并不相同：GPQA 是研究生水平的科学问答，题目设计上不容易靠查资料作答；AIME 是竞赛数学；MATH-500 是一组数学题；LiveCodeBench 考察代码生成。放在一起看，这些数字描述的是一个数学明显强于代码生成的模型，AIME 难度的题目大约能答对一半。

规格与获取方式

Hugging Face 模型卡列出总参数 32.5B，其中非嵌入参数 31.0B^[4]；上下文长度为 32,768 个 token，协议是 Apache-2.0，同时给出上面提到的 MMLU-Pro 成绩^[4]。Qwen 团队通过 Hugging Face 的模型合集和演示 Space、ModelScope，以及 Qwen Chat 提供使用^[1]。

团队自己列出的局限

Qwen 团队列出了几项局限：模型会意外地混用、切换语言；有时会陷入循环推理，写出很长的回答却始终得不出结论；它还需要更强的安全措施^[1]。团队也说，这个模型在数学和编程上很强，但在常识推理和细致的语言理解上较弱^[1]。使用者被告知部署时要谨慎，并且需要更强的安全措施才能获得可靠、安全的性能^[1]。

对一个被训练来长时间「把想法写出来」的模型来说，这些都是可以理解的失效方式。多出来的 token 在难题上有帮助，但训练目标里没有任何东西能保证这段思考会停下来、会保持同一种语言、会始终围绕题目。把这份清单和成绩表一起公开，也是这次发布的方式之一：边缘清晰可见的预览版，比一个被说成完备的版本更容易被接着做下去。

在发展中的位置

2024 年 12 月，QwQ-32B-Preview 之后出现了面向视觉推理的预览模型 QvQ-72B^[2]。随后是 2025 年 3 月 6 日以 Apache 2.0 发布的 QwQ-32B^[3]。预览版因此位于一串简短发布的起点：先是 32B 规模的实验性推理模型，再是规模更大的视觉对应版本，然后是以开放权重形式发布的后续模型。

它的意义在于，它把逐步推理这条路以一个可下载的形式摆了出来——权重开放、许可宽松，成绩数字和失败模式写得同样直白^[2][1]。对后来者来说，这种组合正是它值得回看的地方。