Command R

是什么

Command R 是 Cohere 推出的大语言模型，于 2024 年 3 月 11 日发布，定位是为生产规模的检索增强生成（retrieval-augmented generation，RAG）和工具调用而构建的模型^[1][3]。它有 350 亿参数和 128k token 的上下文窗口^[2][4]。Cohere 的文档把 Command R 描述为具有 128,000 token 的长上下文^[4]，Cohere Labs 则在 Hugging Face 上把它称为一个 350 亿参数生成模型的研究版本^[2]。发布文章标注的日期是 2024 年 3 月 11 日，作者是 Cohere 联合创始人兼首席执行官 Aidan Gomez^[1]。

检索增强生成是一种让模型依据文档而不是仅凭训练时记住的内容来回答的做法：先从语料里检索出相关段落，把它们放进提示里，再让模型基于这些段落作答。企业场景里这种做法很常见，因为答案需要能追溯到某份内部文档，而不是凭记忆生成。Command R 是围绕这一模式设计的，而不是把它当作外挂功能。

检索、引用与工具

该模型支持有据生成（grounded generation），即回答时可以引用提供给它的文档片段^[2]。它还设计为与 Cohere 的 Embed 和 Rerank 检索模型配合工作，这两个模型负责在段落送入语言模型之前完成检索与重排序^[3]。

在工具方面，Command R 支持单步工具调用，也就是常说的函数调用（function calling）：模型决定调用某个外部函数，再用返回结果来作答。它还支持多步工具调用，这是智能体（agent）在给出最终答案前连续调用多个工具所需要的模式^[2]。检索与工具调用合在一起，覆盖了把语言模型连接到外部信息和外部动作的两条常见路径。

语言与上下文

模型针对 10 种语言做了优化：英语、法语、西班牙语、意大利语、德语、巴西葡萄牙语、日语、韩语、简体中文和阿拉伯语；另有 13 种语言包含在预训练中^[2]。128,000 token 的上下文窗口意味着可以把大量检索到的材料放进同一个提示，这在段落来自长文档时尤其重要^[2][4]。

获取方式与许可

Command R 可以通过 Cohere 的托管 API 使用^[3][2]。Cohere For AI 在 Hugging Face 上以 CC-BY-NC 4.0 许可发布了权重，该许可为非商用，同时附有 Cohere 的可接受使用政策^[3][2]。Hugging Face 的模型卡把这个发布版本描述为 Command-R 的非量化版本，4 位量化版本放在另一个仓库中^[2]。

发布时的评测

Cohere 的发布材料把该模型与 Mixtral 在企业 RAG 任务上的人类偏好评测中做了比较，并报告了在 Natural Questions、TriviaQA 和 HotpotQA 上的端到端准确率^[3]。这里的端到端准确率指的是整条「检索加回答」流程的得分，而不只是生成这一步单独的表现。

后续版本与在这条产品线中的位置

2024 年 8 月发布了更新版本 command-r-08-2024，它的工具调用决策和指令遵循更好，吞吐量提高约 50%，延迟降低 20%，部署所需的硬件规模减半^[4]。

2024 年 4 月，更大的 Command R+ 紧随其后推出^[4]。Cohere 目前对大多数用例推荐的是 Command A^[4]，因此 Command R 是这条产品线中的一站，而不是终点：它几个关键的选择——长上下文、把检索当作一等功能、内置工具调用——都是为生产部署准备的。