Cohere 发布面向企业检索增强与工具调用的 Command R

背景

许多企业在处理业务任务时，需要回答基于自身文档，同时模型还要能够调用其他软件。检索增强生成（retrieval-augmented generation，RAG）是提供这种依据的常用方法：模型先检索相关文档，再据此写出回答。Cohere 是加拿大企业 AI 公司，Command R 正是为这类工作设计的。

发生了什么

2024年3月11日，Cohere 发布 Command R^[1][2]。该模型为规模化生产环境中的 RAG 和工具调用而设计，意味着它面向真实的业务系统，而不只是研究演示^[1]。

关键细节

模型拥有 350 亿参数，上下文窗口最长为 128k 词元^[3][2]。上下文窗口指模型在一次请求中能够考虑的文本量。

Cohere 称，该模型在 10 种语言上表现突出，包括英语、法语、日语、韩语、阿拉伯语和中文^[2]。

有依据的回答会附带源文档引用，模型可以单步或多步调用工具^[3]。引用让读者能够追溯每一项说法来自哪份文档。

Cohere For AI 把模型权重公开在 Hugging Face 上供研究使用，商业使用需要另行获得授权^[2][3]。权重即训练得到的参数，这意味着研究者可以自行下载和运行模型。

该模型通过 Cohere 的托管 API 提供，价格低于 Cohere 此前的模型^[2]。

影响

这次发布为企业用户提供了一个围绕有依据回答和工具调用设计的模型，价格也低于 Cohere 此前的模型^[2]。对于关注 Command 系列的读者，这是该系列首次把重点放在这两项能力上。该系列的后续型号见 Command R 条目。

局限

随发布公布的基准测试和比较数据来自 Cohere，且只衡量特定任务。由于商业使用需要授权，开放权重在没有授权的情况下不能用于商业用途。