Cohere 发布只需两块 GPU 的企业模型 Command A

背景

大语言模型的运行成本往往很高，这限制了企业在自有系统中使用它们的规模。需要更少处理器的模型托管成本更低，这对希望把模型保留在自有基础设施上的企业很重要。Cohere 是加拿大企业 AI 公司，Command A 的定位正是围绕这一点展开。

发生了什么

2025年3月13日，Cohere 推出 Command A，宣传口号为“max performance, minimal compute”（最高性能，最少算力）^[1]。公司称，该模型在企业智能体任务上的表现与 GPT-4o 和 DeepSeek-V3 相当或更好^[1]。智能体任务指模型需要规划并执行多个步骤，常借助工具完成的工作。

关键细节

这款 1110 亿参数模型的上下文窗口为 256k 词元，只需两块 A100 或 H100 GPU 即可运行^[2]。GPU 是运行大型 AI 模型广泛使用的处理器。Cohere 报告其吞吐量比 Command R+ 08-2024 高 150%^[2]。

Cohere 通过自有平台、SDK 发布该模型，并以非商业开放权重的形式在 Hugging Face 上提供^[3][2]。SDK 是开发者从自己的程序中调用模型所用的软件工具包。

模型支持 23 种语言^[3]。VentureBeat 把该模型定位为面向全球企业的高度多语言模型，希望在极少硬件上运行^[4]。

影响

这次发布把 Command A 定位为一款既追求高性能、又不需要大量硬件的模型，这也是此前 Command 系列发布中一直强调的主题。它以非商业许可的开放权重形式发布，研究者可以下载运行，商业用户则需要与 Cohere 另行安排授权^[2][3]。

局限

Cohere 的性能主张来自其自身，与 GPT-4o 和 DeepSeek-V3 的比较也不是独立测试。吞吐量和硬件数据描述的是 Cohere 报告的测试环境。在针对具体工作负载做决策前，应参考之后的独立评测。