Cohere For AI 发布支持 101 种语言的开放模型 Aya

背景

Cohere For AI 是 Cohere 的非营利研究实验室，其目标是构建一个能在更多语言上遵循指令的模型，其中包括许多低资源语言 ^[1]。

发生了什么

2024 年 2 月，Cohere For AI 发布了 Aya，这是一款能用 101 种语言遵循指令的指令微调模型 ^[1][2]。描述该模型的论文于 2024 年 2 月 12 日发布在 arXiv 上 ^[1]。

关键细节

模型有 130 亿个参数，采用 Apache 2.0 许可证 ^[3]。覆盖的语言中，一半以上被视为低资源语言 ^[1]。团队称，Aya 在大多数任务上优于 mT0 和 BLOOMZ，而覆盖的语言数量是它们的两倍 ^[1]。

指令数据集与模型一同在 Hugging Face 上开源 ^[1]。

影响

这次发布将覆盖 101 种语言的单一模型，与 Apache 2.0 许可证和公开的指令数据集结合在一起 ^[1][2][3]。