Writer 开源 Palmyra-mini 系列

背景

Writer 的 Palmyra 系列此前以较大的模型为主。Palmyra-mini 是这家公司推出的一组小型开源模型，Writer 把它定位成在追求速度的场景中与较大的 Palmyra 模型互补，而不是取代后者。^[1][2][3]

发布了什么

这个系列共有三个模型，都在 2025 年 9 月以开源形式发布。基座模型 Palmyra-mini 于 2025 年 9 月 5 日上线 Hugging Face，两个思考版本 Palmyra-mini-thinking-a 与 Palmyra-mini-thinking-b 在 9 月 10 日跟进。^[1][2][3]

三者都采用 Apache 2.0 许可，并标明只支持英文。^[1][2][3] Apache 2.0 是一种宽松的开源许可：允许使用、修改和再分发，也包括放进商业产品里，条件是保留许可声明与署名。也就是说，拿到权重的人不必再单独签一份商业协议。

三个模型都标出 131072 个 token 的上下文窗口（context window）。^[1][2][3] 上下文窗口指模型一次能「看到」的文本总量，包括输入的提示和它自己生成的输出。这个长度大致相当于一份长文档或者一段持续很久的对话，而不是一句简短的提问。窗口越长，能一次性放进去的材料就越多，但并不意味着模型对其中每一处都同样可靠。

两条通向推理模型的路径

两个思考版本并不是同一个模型的两个尺寸。基座模型与 thinking-a 都是从 Qwen2.5-1.5B 微调（fine-tuning）而来，thinking-b 的起点则是 Nvidia 的 OpenReasoning-Nemotron-1.5B。^[1][2][3] 这里的微调指在已有的检查点（checkpoint）上继续训练，而不是从头训练，因此起点不同，成品模型的行为取向也会不同。

两个思考版本都围绕数学与编程能力来呈现，主要差别在于基座检查点。^[2][3] 在同一类任务上给出两个建立在不同基座上的版本，使用者可以直接比较：哪些表现来自起点，哪些来自后续训练。

规模与分发格式

整个系列的参数量在 15 亿到 17 亿之间，小到可以在设备端运行。^[1][2][3] 这个量级的模型能在笔记本电脑或手机级设备上跑起来，不必依赖数据中心的加速卡，本地部署和低延迟响应因此变得现实。

除了原始权重，同一个 Hugging Face 组织下还发布了 GGUF 与 MLX 版本。^[4] GGUF 是本地推理工具常用的一种模型文件格式，MLX 是苹果为自家芯片提供的机器学习框架；两种格式同时提供，用户不用自己做转换，就能在常见的本地环境里加载。

位置与局限

这次发布的一个看点是大小模型并存：Writer 说 Palmyra-mini 与较大的 Palmyra 模型互补，用于对速度敏感的工作。^[1][2][3] 对使用者来说，15 亿参数级模型的实际价值在延迟和硬件成本——回答得快，而且跑在人们已经拥有的设备上。

局限也直接写在模型卡上：只支持英文。^[1][2][3] 需要其他语言的团队，或者需要大量知识储备、长时间推理的任务，仍然要回到这个系列所围绕的更大模型上。另外，系列的起点来自 Qwen 与 Nvidia 的检查点，这在小型模型里很常见：已有的权重经常被当作起点，而不是从零训练。