小米发布 MiMo-7B 推理模型

发布

2025年4月下旬，小米发布 MiMo-7B 系列^[1]。这次发布包含两个版本：一个是预训练的基础模型（base model），另一个是经过强化学习（reinforcement learning，RL）调优的对话模型^[1]。基础模型适合继续训练和实验，对话模型则面向实际问答和任务求解。对关注推理模型的人来说，重点不只是名字，而是训练配方和公布的结果。

训练方法

小米用 25 万亿个 token（词元）训练基础模型^[1]。token 数量大致反映预训练阶段模型读到的文本和代码规模；数量更大意味着训练数据更多，但单看这个数字不能判断数据质量或模型质量。后训练（post-training）阶段，小米使用了 13 万道可验证的数学和编程题^[1]。所谓“可验证”，是指答案可以由程序或规则自动检查，例如数学结果或带测试的代码；这样训练过程就能对正确输出给予奖励、对错误输出进行惩罚。对推理任务来说，这是一种实用的强化学习方式：模型可以反复练习并获得信号，而不必每一次都由人评分。小米称 MiMo-7B-RL 超过了 OpenAI o1-mini^[1]。这是小米自己报告的比较，适合理解为该模型希望占据的位置，而不是最终、独立的排名。

发布细节与后续修订

Hugging Face 上的模型卡（model card）创建于 2025年4月29日^[2]。模型卡的重要性在于，它给开发者一个固定入口，用来了解模型的用途、训练细节和评测说明。2025年5月30日的一次修订把 AIME 2024 的分数提高到 80.1，高于 DeepSeek R1 的 79.8^[3]。这类基准测试（benchmark）分数便于快速比较，但范围很窄：一项测试的高分并不自动代表模型在所有任务上都更好。这次修订也说明，项目公布的结果在首次发布后仍会变化，这对还在调优和评测的模型很常见。

意义

MiMo-7B 值得注意的地方，不只是某一个分数，而是它展示了模型发布的一种方式：同时给出基础模型和调优后的对话模型，说明一套基于可验证题目的后训练流程，并把结果与 OpenAI o1-mini、DeepSeek R1 等名字放在一起比较^[1][3]。对学生和开发者来说，这是一个观察推理模型如何训练、如何评测的案例：数据规模、强化学习、模型卡和基准比较都出现在同一个发布里。看待它时，应该同时看训练配方和证据，而不只看标题里的比较。