Phi-4-reasoning

是什么

Phi-4-reasoning 是微软在 2025 年 4 月 30 日发布的 140 亿参数开放权重（open-weight）推理模型，同日公开了技术报告（arXiv:2504.21318）^[1][2]。所谓开放权重，是指训练好的参数被公开发布，其他人可以下载并自行运行，这一模型以 MIT 许可证发布^[1]。它支持的上下文长度为 32K token^[1]。

怎么做的

它是在微软此前的小模型 Phi-4 基础上微调得到的。具体做法是监督微调（supervised fine-tuning）：准备一批经过筛选、报告称之为「可教」（teachable）的提示词，为它们配上由 OpenAI 的 o3-mini 生成的推理示范，再让 Phi-4 学会写出这样的推理过程^[2]。也就是说，小模型学到的是更强模型一步步推导的方式，而不只是它的最终答案。

微调数据混合了合成提示词和经过筛选的公共领域网页文本，内容侧重数学、科学与编程，另外还加入了用于安全对齐的数据^[1]。整个微调使用 160 亿 token，其中约 83 亿是唯一 token，在 32 块 H100-80G 显卡上训练了 2.5 天，时间是 2025 年 1 月至 4 月^[1]。

第二个版本 Phi-4-reasoning-plus 在此之上增加了一个简短的结果导向强化学习（outcome-based reinforcement learning）阶段^[2]。这类强化学习奖励的是最终答案是否正确，而不是是否复现了参考解法。

回答的样子

模型的回答分为两部分：先是一段推理思维链（chain-of-thought），随后是一个总结段落^[1]。plus 版本会产生更长的推理轨迹，技术报告把这一点与它更高的准确率联系起来^[2]。

结果

在美国高中数学竞赛 AIME 2024 上，基础版得分 75.3，plus 版 81.3；在 AIME 2025 上两者分别为 62.9 和 78.0^[1]。在数学基准 OmniMath 上分别是 76.6 和 81.9^[1]；在研究生水平科学题库 GPQA-Diamond 上是 65.8 和 68.9^[1]；在编程基准 LiveCodeBench 上是 53.8 和 53.1，这也是 plus 版唯一略低的一项^[1]。

微软表示，这两个模型追平或超过了 DeepSeek-R1-Distill-Llama-70B 这类体量大得多的开放模型，并在 AIME 2025 上接近完整的 6710 亿参数 DeepSeek-R1^[2]。

在发展中的位置

Phi-4-reasoning 属于 Phi 系列小模型，建立在 Phi-4 之上^[1]。它的语言主干后来被用于 2026 年 3 月的 Phi-4-reasoning-vision-15B^[1]。它所代表的这套做法——小体量基座模型、精细筛选的数据，加上从更大系统蒸馏来的推理轨迹——是不从零训练前沿规模模型、也能获得推理能力的一条路径。