AI21 Labs 发布 Jamba 1.7

Jamba Large 1.7 与 Jamba Mini 1.7 是 AI21 Labs 的 Jamba 系列语言模型的更新版本，2025 年 7 月发布于 Hugging Face^[1]。这次不是新架构，而是对既有产品线的升级：模型卡着重强调的变化，是让模型严格依据提供给它的材料作答，并比上一版更可靠地遵循指令^[1][2]。

背景

AI21 Labs 把 Jamba 分为 Large 和 Mini 两个规格发布，并给版本编号，因此 1.7 承接的是 1.6 版^[1][2]。两个 1.7 模型都发布在 Hugging Face 上，AI21 Labs 在该平台托管记录模型行为与规格的模型卡^[1]。

更新针对什么

这次发布的重点是「有据可依」（grounding）：让模型根据提供给它的上下文来回答，例如检索到的文档、合同、随问题一起传入的手册，而不是依赖预训练时吸收的内容^[1]。把模型放进文档处理流程时，这正是最要命的失效方式：答案一旦偏离给定文本，读者难以核对，系统也难以信任。

模型卡用一个 FACTS 有据性分数来量化这一变化，衡量答案与所给上下文贴合的程度。Jamba Large 1.7 的该分数从上一版的 0.758 升至 0.832^[1]。两份模型卡都说明，指令遵循能力相对 1.6 版同样有所提升^[1][2]。

规格细节

有两项与上一版保持一致：模型接受 256k 词元的上下文，并沿用 Jamba Open Model License 发布^[1]。这样的上下文窗口指的是模型一次能纳入考虑的文字量，正因如此，长篇文档可以整份交给模型，而不必先做摘要。

Jamba Large 1.7 的模型卡给出的参数是 94B 活跃参数、398B 总参数^[1]。这两个数字说的不是一回事：总参数涵盖网络中全部权重，活跃参数只涵盖模型运行时每个词元实际用到的那一部分。模型卡同时给出两个数字，说明这是一种每步只启用网络一部分的设计，因此每个词元的计算量更接近活跃参数而非总参数。

模型卡还列出知识截止日期为 2024 年 8 月 22 日^[1]。截止日期标记训练所覆盖材料的终点，此后的信息只能通过上下文窗口进入模型，这也是为什么有据性与长上下文的讨论总是放在一起。

意义

对 Jamba 的使用者来说，1.7 是一次可以直接替换的升级：上下文长度相同、许可证相同，而在决定模型能否用于长篇给定文档的两项行为上分数更好^[1][2]。其中更有信息量的是有据性分数，因为它把「模型在编」这一模糊抱怨变成了可以跨版本比较的数字。