Mistral AI 以 Apache 2.0 发布 Mistral Small 3

背景

Mistral AI 此前以研究许可（research licence）发布通用模型，这类条款对使用者能用权重做什么设有限制。在发布 Mistral Small 3 的同时，公司表示会把通用模型从研究许可改为 Apache 2.0 ^[1]。Apache 2.0 是宽松的开源许可：任何人都可以使用、修改和再分发，包括用于商业目的，只要保留许可文本和署名声明。对模型权重而言，实际差别在于谁能拿它去做产品。

发布了什么

2025 年 1 月 30 日，Mistral AI 以 Apache 2.0 发布 Mistral Small 3，这是一个 240 亿参数的模型 ^[1]。参数（parameter）是神经网络在训练中学到的数值权重；这个参数量处在最大模型之下、最小模型之上，而参数规模在很大程度上决定了运行它需要什么硬件。

性能

该模型在 MMLU 上得分超过 81% ^[1]。MMLU 是一套多项选择题基准，覆盖数学、历史、法律、医学等多个学科的知识。Mistral 称其运行速度约为每秒 150 个令牌（token）^[1]；令牌是模型读写文本的单位，大致相当于一个短词或词的一部分，所以这个数字描述的是生成文本的快慢。公司还称，Mistral Small 3 在速度超过三倍的情况下与 Llama 3.3 70B Instruct 表现相当 ^[1]。

训练方式

Mistral 表示，该模型既没有用强化学习（reinforcement learning），也没有用合成数据（synthetic data）训练 ^[1]。强化学习通过奖励在某个目标上得分高的输出来训练模型，合成数据则是由另一个模型生成、而非由人撰写的训练文本。说明这两者都未使用，把它与依赖奖励信号做后训练、或依赖模型生成语料的训练流程区分开来。

本地运行

经过量化（quantization）后，Mistral Small 3 可以在一张 RTX 4090 或一台 32GB 内存的 MacBook 上私密运行 ^[1]。量化指用更低的数值精度存储权重，用少量精度换取小得多的显存和内存占用，正是这一点让这个规模的模型能装进消费级硬件，而不是数据中心的显卡。

影响

许可与体量两件事叠在一起。Apache 2.0 允许修改和商业使用 ^[1]，而一个 240 亿参数的模型在量化后可装进一张消费级显卡或一台笔记本 ^[1]，可以部署在机构自己已有的硬件上。在本地运行权重，意味着提示和数据留在私有网络内，不必发送到外部服务。Mistral 给出的对照对象是规模大得多的 Llama 3.3 70B Instruct，强调的重点是速度而不只是质量 ^[1]。