微软发布 Phi-4-reasoning 推理模型

背景

2025 年 4 月发布的推理模型，是在 Phi-4（140 亿参数，14 billion）的基础上进行微调而成的，而不是从头训练一个新模型。^[1][2]

发生了什么

2025 年 4 月 30 日，微软发布了 Phi-4-reasoning 和 Phi-4-reasoning-plus，两者都是以 Phi-4 为基础微调的 140 亿参数推理模型。^[1][2]Phi-4-reasoning 通过监督微调训练，训练数据是 OpenAI o3-mini 的推理轨迹。plus 版本增加了基于结果的强化学习，奖励正确的最终答案。^[1]

关键细节

Phi-4-reasoning-plus 在 AIME 2025 中得分 78.0，在 AIME 2024 中得分 81.3。这两组都是竞赛数学题。^[2]两个模型的上下文为 32K 词元，并以 MIT 许可证发布。^[2]

微调在 32 块 H100 GPU 上进行，历时 2.5 天，使用了 16 亿个词元的训练数据。^[2]

影响

微软表示，两个模型的表现都超过了规模大得多的开放模型，例如 DeepSeek-R1-Distill-Llama-70B。^[1]这次发布表明，一个相对较小的模型，经过推理样例的微调并加上最后的强化学习阶段，就能以开放权重的推理模型形式发布，供开发者下载和运行。^[1][2]

相关术语

推理模型是经过训练、会先逐步推导再给出最终答案的模型。微调是在已有模型的基础上，用更小、更有针对性的数据继续训练，使其获得新的行为，而不必从零开始。强化学习是根据输出是否获得奖励来调整模型的训练方法，这里的奖励来自最终答案是否正确。AIME 是竞赛数学考试，文中的 AIME 2024 和 AIME 2025 分别指两个年份的题目。开放权重是指公开训练后的参数，任何人都可以下载运行。