Sutskever 与 Leike 离职，OpenAI 超级对齐团队解散

背景

前沿 AI 开发者会雇佣研究者做对齐（alignment）工作：让系统的行为符合设计者与使用者的意图，也包括在系统比监督它的人更有能力的时候。对齐涵盖一系列技术问题——怎么把目标说清楚、怎么判断模型是否在按目标行事、模型变强之后怎么让人工监督仍然有效。OpenAI 为此设有专门的团队——超级对齐（Superalignment）团队，这个名字指向的是最难的情形：系统比监督它的人更有能力时的对齐。Jan Leike 是该团队的共同负责人之一^[1]。Ilya Sutskever 是 OpenAI 的联合创始人兼首席科学家^[1][3]。

两人相继离开

2024 年 5 月 14 日，Sutskever 宣布在供职近十年后离开 OpenAI^[1][3]。OpenAI 任命研究总监 Jakub Pachocki 接任首席科学家一职^[1][2]。

在 Sutskever 的消息公布数小时后，Leike 在 X 上表示自己也将辞职。他在 OpenAI 的最后一天是 2024 年 5 月 16 日（星期四）^[1]。

Leike 的公开批评

2024 年 5 月 17 日，Leike 公开说明了自己的理由。他写道，OpenAI 的安全工作「taken a backseat to shiny products」，即让位于光鲜的产品。他说团队一直「sailing against the wind」（逆风航行），为争取算力而挣扎。他认为 OpenAI 必须成为一家「safety-first AGI company」（安全优先的通用人工智能公司），并称制造比人更聪明的机器本身就是一件危险的事业^[1]。

团队解散

2024 年 5 月 17 日（星期五），OpenAI 确认超级对齐团队已经解散，成员被并入公司的各项研究工作^[1][2][3]。OpenAI 联合创始人 John Schulman 成为 OpenAI 对齐工作的科学负责人^[2]。

反应

CEO Sam Altman 回复了 Leike 的帖子，称自己对 Leike 的贡献「super appreciative」（非常感激），并表示 Leike「right we have a lot more to do」，即说得对，我们还有很多要做^[1]。

离开的不止这两位负责人：超级对齐团队成员 Leopold Aschenbrenner 和 Pavel Izmailov 也在近几个月先后离开 OpenAI^[2]。

影响

整件事集中在一周之内：首席科学家离职、一篇关于安全文化的公开辞职说明，以及那个本应处理最难问题的团队被解散。对公司之外的人来说，这使一场内部争论变得可见。

做前沿模型的组织，能力研究与安全研究长在同一个身体上，两者争夺的是同一批有限的研究者、注意力和算力。当一位资深研究者说团队缺算力、而产品照常发布时，这是关于优先级排序的陈述，而不只是关于某一个团队的陈述^[1]。Leike 自己的说法是，制造比人更聪明的机器本身危险，需要一家以安全为先来组织的公司^[1]。他并没有否认还有很多要做；公司的首席执行官也公开承认了这一点^[1]。

这份声明没有回答的，是 OpenAI 的对齐工作此后如何组织：Schulman 出任科学负责人，而原来同一个具名团队的成员分散到公司的各个研究方向上，不再聚在一处^[2]。