Granite 4.2（IBM 企业级开源模型）

是什么

Granite 4.2 是 IBM Granite 团队推出的开源权重语言模型系列，发布日列为 2026 年 8 月 25 日^[1]。这一代共有 3B、8B、30B 三个尺寸，都是稠密（dense）模型^[1]。所谓稠密，指处理每个词元时都动用全部参数，而混合专家（mixture-of-experts）架构只把词元送进网络的一小部分；因此尺寸数字基本直接对应运行成本。想把模型放在单台工作站上的团队可以选小的那个，需要同时服务很多用户的团队可以选大的那个，而整个系列共用同一套命名和许可。

8B 版本的内置推理

公开信息中最详细的是 8B 这一款。它建立在 Granite-4.1-8B-Base 之上，并在 think 标签内加入了原生的思维链（chain-of-thought）推理^[1]。思维链指的是模型在给出最终答案之前，先把中间步骤写出来。把这些步骤放进专门的标签里，软件就能把推理过程和答案分开：界面可以对读者隐藏这段草稿，日志系统则可以保留它以便事后核对。

模型提供三种思考模式：完整思考、不思考，以及低强度思考^[1]。设置这个开关的理由很实际——推理要花词元，也要花时间。难题值得一段较长的内部推演，而改写一段文字之类的常规请求通常不需要，直接作答更便宜。低强度模式介于两者之间，给模型留一点推演的余地，又不必付完整思考的代价。

8B 版本的架构

8B 模型有 40 层，嵌入维度为 4,096^[1]。它的注意力使用分组查询注意力（grouped-query attention），有 32 个注意力头、8 个键值头^[1]。在分组查询注意力里，若干个查询头共用同一个键值头，这样就压缩了随上下文不断增长的键值缓存，长对话和长文档因此才跑得起来。位置编码采用旋转位置编码（RoPE），theta 取 10,000,000^[1]；旋转位置编码按位置相关的角度旋转词元向量来表示它所在的位置，较大的 theta 值把这些旋转拉开，使相距很远的两个位置仍然可以区分。前馈层使用 SwiGLU，隐藏层大小为 12,800^[1]，这是带门控的前馈结构。输入与输出嵌入不共享权重，也就是说读入词元的矩阵和输出词元的矩阵是两套独立参数；模型以 bfloat16 运行^[1]，这是一种保留较宽指数范围的 16 位浮点格式，在推理时有助于数值稳定。

上下文原生为 128K 词元，并可扩展到 512K^[1]。词元是词的片段，128K 词元大致相当于一本长篇著作，这让整个代码仓库或成套文档可以一次性送进模型；扩展到 512K 则进入好几本书的量级。

语言与许可

测试覆盖 12 种语言：英语、德语、西班牙语、法语、日语、葡萄牙语、阿拉伯语、捷克语、意大利语、韩语、荷兰语和中文^[1]。这份名单既有大的欧洲和亚洲语言，也有捷克语这样规模较小的语言，还包含使用另一种文字的阿拉伯语，对同时在多个市场运营的组织来说有实际意义。

许可为 Apache-2.0，允许不受限制的商业和学术使用^[1]。对企业而言，这意味着不必逐家谈判授权，也没有使用量上限，并且可以修改和再分发权重。

发布节奏

权重在 2026 年 8 月 7 日就上传到了 Hugging Face，早于公布的发布日期^[2]。这段时间差对使用者有意义：在正式发布之前就能下载试用，所以最早的一批反馈往往来自用户而不是厂商。同月里，GGUF 和 NVFP4 版本也相继出现^[2]。GGUF 是本地推理软件使用的文件格式，可以让模型在消费级硬件上跑起来；NVFP4 是一种 4 位浮点格式，用它构建的版本会大幅降低内存占用，代价是一些精度损失。这两种构建指向同一类用户：希望在自家机器上运行、而不是通过接口调用的团队。

在发展中的位置

Granite 4.2 延续了开源权重模型发布的一种常见做法：一个覆盖小到中等尺寸的稠密模型家族、一份宽松的许可，以及和全精度权重一起发布的量化版本，让模型能走出数据中心。比较值得注意的是可切换的推理模式。它承认同一个模型如今要承担两类相当不同的工作——快速的常规文本处理和较慢的多步问题求解——并把选择权交给调用方。