Yi-Lightning

是什么

Yi-Lightning 是零一万物（01.AI）于 2024 年 10 月推出的旗舰模型^[1][3]。该模型基于增强版的混合专家（Mixture-of-Experts，MoE）架构。混合专家模型把网络拆分为多个专业化的部分，每次输入只激活其中一部分。零一万物的版本采用细粒度的专家划分与路由，即把专家切分得更小，并由路由步骤决定每个输入交给哪些专家处理。模型还采用了优化的 KV 缓存（KV-caching），即保存前面词元的中间结果，避免为每个新词重复计算^[1]。

Yi-Lightning 接替 Yi-Large，成为零一万物的头号 API 模型^[3]。

训练方式

据技术报告，Yi-Lightning 经过多个阶段训练。预训练阶段让模型从大量文本中学习；有监督微调则用优质回答的示例教模型按指令作答；基于人类反馈的强化学习（RLHF）则根据人类对回答的判断，借助打分的奖励模型进一步调整模型^[1]。报告还把多阶段训练、合成数据构建和奖励建模列为训练过程的组成部分^[1]。

合成数据指由模型生成而非人工撰写的样本，可用于扩充那些难以大规模收集的主题的训练材料。

测试成绩

该模型在 LMSYS Chatbot Arena 综合排名中位列第六，并在中文、数学、编程和高难度提示（Hard Prompts）类别中排在第二至第四位^[1]。Chatbot Arena 是一个公开平台，用户在盲测中对两个匿名模型的回答投票，投票结果汇总为排名。各类别按主题划分问题，其中 Hard Prompts 收录的问题难度更高。

李开复表示，Yi-Lightning 在 LMSYS 的盲测排名中位列全球第六，中国模型中第一，并且排在 GPT-4o-2024-05-13 和 Claude 3.5 Sonnet 之前^[2]。这里提到的模型名称，是排名发布时对应竞争系统的名称。

在加州大学伯克利分校 SkyLab 与 LMSYS 发布的模型厂商排名中，零一万物与 xAI 并列第三，xAI 的模型为 Grok-2。排在前面的是 OpenAI 和谷歌^[3]。这一排名以公司为单位，而非单个模型。

价格

发布时，该模型的 API 价格为每百万词元 0.99 元。李开复称，这一价格包含了略高于成本的利润，并非低于成本定价^[2]。词元是一种小的文本单位，通常是一个词或词的一部分，API 价格通常按每百万词元计算。

维基百科给出的推理价格则是另一组对比。推理价格指模型生成答案时的运行成本，据其记载，Yi-Lightning 为每百万词元 14 美分，OpenAI 的 o1-mini 为 26 美分^[3]。两组数字来自不同来源，计价口径也不同，读者应分别查看出处。

意义

Yi-Lightning 表明，一款来自中国公司的模型，可以在受到广泛关注的公开竞技场中名列前茅，同时使用成本较低。公开排名是外界检验该模型表现的主要依据。

据维基百科，2025 年 3 月，零一万物停止预训练大语言模型，此后其工作转向定制化的商业解决方案^[3]。

安全框架

技术报告描述了 RAISE（Responsible AI Safety Engine，负责任 AI 安全引擎），这是一个涵盖预训练、后训练和模型服务三部分的四项安全框架^[1]。预训练是模型从文本中学习的阶段，后训练是为实际使用而调整的阶段，服务则是模型面向用户作答的阶段。覆盖这三个阶段的框架，意味着安全被视为模型整个生命周期的一部分，而非最后一道检查。

发表

技术报告于 2024 年 12 月 2 日发布在 arXiv 上^[1]。arXiv 是开放的科学论文存档，报告在那里发布后，研究者便可以阅读并引用其中的细节。