Ilya Sutskever 创立安全超级智能公司 SSI

背景

Ilya Sutskever 于 2024 年 5 月 15 日离开 OpenAI ^[1]。他于 2024 年 6 月 19 日在 X 上宣布成立新公司 ^[1]。

事件经过

2024 年 6 月 19 日，Ilya Sutskever 在 X 上宣布成立安全超级智能公司（Safe Superintelligence Inc.）^[1]。他的联合创始人是 Daniel Gross 和 Daniel Levy ^[1]。公司唯一明确的目标是建设安全的超级智能，即能力远超人类的 AI，并把安全性当作核心要求 ^[2]。

超级智能（superintelligence）指在大多数工作领域超过人类能力的 AI 系统。公司的名称把安全放在首位，而它的宗旨声明中没有其他既定目标 ^[2]。

早期布局

公司在帕洛阿尔托和特拉维夫设立了办公室 ^[2]。两地分处不同国家，意味着团队从一开始就可能分布在不同地点 ^[2]。

早期融资

2024 年 9 月，公司以 50 亿美元估值融资 10 亿美元 ^[1]。估值是融资时对公司价值的估算，而不是营收的衡量。当时公司还没有任何产品。

什么是 AI 安全研究

AI 安全研究探讨如何让先进的 AI 系统按照设计者的意图运行，并防止它们造成严重危害。这一领域既包括关于模型如何学习和出错的技术工作，也包括如何治理这类系统的问题。SSI 的名称把这一目标放在首位，其公开表述中没有其他既定目标 ^[2]。

单一目标的意义

一家公司只有一个明确目标，外界就更容易描述它的方向。它的融资、招聘和研究计划也都可以对照这一目标来衡量。投资人和研究者可以通过之后的工作是否服务于创立时的目标，来判断这家公司。

为什么值得关注

SSI 的成立之所以引人关注，是因为一位刚离开 OpenAI 的研究者，在没有任何产品的情况下，以单一的研究目标创办公司并募得大额资金。