OLMo 2

是什么

OLMo 2 是艾伦人工智能研究所（Ai2）第二代完全开放（fully open）的语言模型，2024 年 11 月 26 日发布，有 7B 和 13B 两个参数规模^[1]。这里的「完全开放」是字面意思：发布的不只是权重，还包括 base 版与 instruct 版的权重、预训练与后训练数据、代码、训练配方、中间检查点，以及 OLMES 评测框架^[1]。权重和代码以 Apache 2.0 许可发布，模型的上下文长度为 4096 个 token^[3]。

多数「开放权重」模型只给出训练完成的参数，别人可以运行它，却看不到里面装了什么。把数据和配方一并公开，意味着外部研究者可以追溯一个模型是怎么被造出来的，也可以把整个过程重跑一遍。

怎么训练的

预训练最多用了 5 万亿（trillion）个 token，分两个阶段。第一阶段是在约 3.9 万亿 token 的 OLMo-Mix-1124 上训练；第二阶段是中期训练（mid-training），用质量更高的 Dolmino-Mix-1124 混合数据继续训练，规模为 8430 亿 token^[1]。

Ai2 说它在训练稳定性上专门投入了精力，因为长时间的预训练容易出现损失尖峰（loss spike）——也就是训练损失突然跳高。损失是衡量模型预测与目标差距的数值，正常训练时它应当平稳下降；尖峰与最终模型质量偏低存在相关性^[4]。为此，模型采用了分阶段训练，并在预训练后期加入干预^[4]。

后训练

Instruct 版本用 Ai2 的 Tülu 3 配方做后训练，包含监督微调（SFT）、偏好调优（preference tuning）和带可验证奖励的强化学习（reinforcement learning with verifiable rewards）三部分^[1]。通俗地说，监督微调用示例答案教模型照着回答；偏好调优让模型偏向人更认可的答复风格；带可验证奖励的强化学习则用在答案能被自动判定对错的任务上，比如一道结果非对即错的数学题。

成绩

Ai2 称，在训练消耗的浮点运算量（FLOPs）更低的情况下，OLMo 2 7B 优于 Llama-3.1 8B，OLMo 2 13B 优于 Qwen 2.5 7B；OLMo 2 13B Instruct 的表现在 Qwen 2.5 14B Instruct 之上^[1]。Ai2 把这些模型称为当时最好的完全开放语言模型^[1]。上述比较由 Ai2 自己给出。

文档与开放的意义

这批模型配有技术报告《2 OLMo 2 Furious》，在 arXiv 上的编号为 2501.00656^[2]。报告、公开数据、中间检查点和 OLMES 评测框架属于同一套思路：让一个模型的构建过程可以被检视、被复现，而不只是被调用^[1]。对教学和研究来说，价值正在这里——可以查证训练数据里有什么，可以观察某个阶段的检查点具备什么能力，也可以在同一套评测下比较不同做法。

在发展中的位置

2025 年 3 月 13 日，家族里补充了 32B 版本，规模继续上探；2025 年 11 月，Olmo 3 接替了这一代^[1]。因此 OLMo 2 处在一串模型的中段：它把 Ai2 的完全开放路线从第一代推进到多个规模、带有成体系训练流程和配套指令微调版本的一代。