Cohere Command 模型登陆亚马逊 SageMaker JumpStart

背景

Command 是 Cohere 在 Command R 系列之前的主力文本生成模型^[3]。这类模型到用户手里通常要经过一个平台：要么直接调用模型公司的接口，要么通过云平台的模型目录，把模型和自家的其他云服务一起托管、一起计费。模型进了云目录，团队就能在自己已有的账号、权限和计费体系里直接部署它。

Amazon SageMaker JumpStart 是 Amazon SageMaker 内部的预训练模型目录。SageMaker 是亚马逊用于构建和运行机器学习模型的托管服务，用户从 JumpStart 里挑一个模型就能部署，不必自己搭底层设施。

发生了什么

2023 年 6 月 29 日，Cohere 宣布其 Command 生成模型在 Amazon SageMaker JumpStart 上线^[1]。实际效果是把 Command 递到了已经在用 SageMaker 的团队面前：他们不用再去对接另一个厂商的接口，而是从 JumpStart 目录里取出模型，在自己的云环境里运行。

同一个月还有第二条渠道。Cohere 与 Oracle 建立合作，把自己的模型带进 Oracle 的云和应用程序^[3]。这两个动作面向的人群并不相同。SageMaker 上架服务的是在模型之上自建系统的开发者；与 Oracle 的合作则指向正在使用 Oracle 商业软件的组织，模型可以出现在人们本来就在用的应用里。

关键细节

Oracle Cloud Infrastructure（OCI）把这款模型记为一个 520 亿参数的模型，用于文本生成和摘要^[2]。参数数量是衡量模型规模的一个粗略指标：参数就是训练中不断调整的权重，数量越大，一般意味着容量更大，推理时也要消耗更多算力。这段说明同时界定了模型的用途——产出文本、概括文本，而不是只做某一项狭窄任务。

新旧模型在云目录里并存是常态，这也正是目录老去的方式：一条产品线的主力模型被后继系列超过，旧的条目最终停止提供。

后来的变化

这款模型后来在 OCI 上退役，让位给 Cohere 的对话模型^[2]。Oracle 建议用户改用其对话模型，并说明这些模型提供相同的摘要与文本生成能力^[2]。cohere.command 模型的退役发生在 OCI 的美国中西部（芝加哥）区域^[2]。

在云目录里退役，并不意味着模型在抽象意义上失去用处，但它确实终结了某一种获取方式。凡是在 OCI 这个条目上搭过东西的人，都得迁到官方推荐的对话模型，才能让同样的摘要和生成任务继续跑下去。云区域是分别处理的，所以针对某一个区域宣布的下线，对当地客户是一项运维任务，而不是一次全球范围的切换。

为什么重要

这件事记录了文本模型分发方式的一步变化。Cohere 没有只靠自家接口接触客户，而是在同一个月把 Command 放进了两家大型云厂商的目录，让客户在数据和计费本来所在的地方拿到模型。它同时展示了这种安排的另一半：当这条模型线被取代时，云上的条目随之退役，用户被引向接替它的对话模型，而官方说明这些对话模型覆盖同样的摘要与文本生成工作。