Palmyra-mini（Writer 的 17 亿参数开源模型）

是什么

Palmyra-mini 是 Writer 于 2025 年 9 月 5 日发布到 Hugging Face 上的一个小型英文语言模型^[1]。模型卡上写明的参数量是 17 亿，上下文窗口为 131,072 个词元（token）^[1]。上下文窗口指的是模型一次能「看到」的文本长度：131,072 个词元意味着它可以一次性读完一份长文档或一段很长的对话，而不必先把内容切成碎片。权重以 Apache 2.0 许可发布，允许他人复用，包括商业用途，只需保留署名^[1]。

从哪来

这个模型是从 Qwen2.5-1.5B 微调（fine-tune）得到的^[1]。微调的做法是：拿一个已经在大规模通用语料上训练过的模型作为起点，再用一批范围更窄、更有针对性的数据继续训练，让模型的行为朝某一类任务偏移。在这里，底座模型提供通用的英语能力，微调则针对数学题所需要的那种一步一步写出推理过程的能力。

基准成绩说明了什么

模型卡给出了一组标准基准（benchmark）的成绩。在 GSM8K 上，它的得分是 0.818。GSM8K 是一组小学水平的数学应用题；所谓严格匹配（strict matching），是指答案必须和参考答案完全一致才算对，而不是由人或其他模型判断「差不多对」^[1]。在 MATH500 上得分同样是 0.818，这是从竞赛风格数学题中取出的一个较小的题集^[1]。在 AMC23 这组竞赛题上得分 0.6^[1]，在 BBH 这组刻意设置得较难的推理任务上得分 0.5259^[1]。在 MMLU-Pro 这个覆盖面较广、以多项选择形式考查各学科知识的测试上，它得分 0.314^[1]；在 GPQA diamond 上得分 0.442，后者是一组按研究生水平科学问题编写、并且特意设计成难以靠搜索直接查到答案的题目^[1]。在 AIME24 题集上得分 0.2，在 AIME25 上得分 0.25^[1]。代码方面，HumanEval 上得分 0.5，LiveCodeBench 的代码生成任务上得分 0.1519^[1]。模型卡把这些结果排成一个无序列表逐项列出，而没有把各个模型排成排行榜^[1]。

处在什么位置

Writer 把这次发布的重点放在小学阶段的数学上，并点名 GSM8K 是其中最强的单项成绩^[1]。数字的走向与这个说法是一致的：在小学水平的应用题上分数最高，到了更难的竞赛题集和代码任务上就明显往下掉。这个尺寸的模型足够小，运行和改造的成本都不高，而 Apache 2.0 许可基本扫清了这样做的限制^[1]。

需要说明的是，上面这些都是模型卡上自行报告的成绩，不能替代在你自己任务上的实测。基准是一组固定的题目配一套固定的评分规则；单个数字说明不了模型面对真实请求时表现如何，也说不了它在没把握时会怎么做、拿到一份长文档时又会怎么处理。把这张表当成一张粗略的能力地图来读，比当成结论更合适。