人物
伊利亚·苏茨克维(Ilya Sutskever)
以色列裔加拿大计算机科学家,1986 年生;参与构建 AlexNet,共同创办 OpenAI 并任首席科学家,2024 年创办 Safe Superintelligence Inc.
出生 1986
概况
Ilya Sutskever(伊利亚·苏茨克维)是以色列裔加拿大计算机科学家,研究方向是神经网络与深度学习。他 1986 年出生于苏联的下诺夫哥罗德(当时称高尔基),5 岁时随家人移居以色列,在耶路撒冷长大,16 岁移居加拿大。[1]
教育与博士研究
他在多伦多大学求学,2005 年获数学学士学位,2007 年获计算机科学硕士学位,2013 年获计算机科学博士学位,博士论文题为《Training Recurrent Neural Networks》(训练循环神经网络),导师是 Geoffrey Hinton(杰弗里·辛顿)。[1] 循环神经网络(recurrent neural network)按顺序一步步处理输入,并把上一步的状态带到下一步,因此适合处理有先后次序的数据;他的博士工作研究的正是这类网络该怎么训练。
AlexNet
2012 年,他与 Alex Krizhevsky、Geoffrey Hinton 一起构建了 AlexNet——一个用来识别图像中物体的神经网络。ACM 图灵奖的公告称,这项工作把 ImageNet 上物体识别的错误率几乎降低了一半;ImageNet 是用于衡量图像识别进展的大型带标签图像集合。[1][6] 2012 年,他在斯坦福跟随 Andrew Ng 做了一段短暂的博士后,随后加入 Hinton 的公司 DNNResearch;2013 年谷歌收购该公司后,他成为谷歌大脑(Google Brain)的研究科学家。[1][6]
在谷歌的工作
在谷歌期间,他是《Sequence to Sequence Learning with Neural Networks》(2014)的第一作者,合著者为 Oriol Vinyals 和 Quoc V. Le。这篇论文用神经网络把一个序列映射成另一个序列,而不是只给单个输入打一个标签。他还参与了 TensorFlow 这一构建和训练神经网络的软件库的工作,并合著了 2013 年把词与短语表示为向量的 word2vec 论文,以及 2016 年的 AlphaGo 论文。[1][7]
OpenAI
2015 年底,他离开谷歌,参与共同创办 OpenAI,并担任首席科学家。[1] 在 OpenAI 期间,他参与合著了 GPT、GPT-2、GPT-3、CLIP 和 DALL-E 的论文;GPT-3 的论文称他是「an early advocate for scaling large generative likelihood models」(很早就主张扩大生成式似然模型规模的人)。[1][5] 这些论文分别涉及以生成文本为目标的语言模型、把图像与文字描述对应起来的 CLIP,以及生成图像的 DALL-E。
2023 年 11 月的董事会表决
2023 年 11 月,作为 OpenAI 董事会成员,他投票将 Sam Altman(萨姆·奥尔特曼)从首席执行官职位上撤下。约一周后 Altman 复职,Sutskever 退出董事会,他后来表示对自己在其中所起的作用感到后悔。[1]
离开 OpenAI 与创办 SSI
2024 年 5 月 14 日,OpenAI 宣布了他的离职,此时距他加入已近十年;Jakub Pachocki 接任首席科学家。[2] 2024 年 6 月 19 日,他与 Daniel Gross、Daniel Levy 一起创办 Safe Superintelligence Inc.(SSI),公司在帕洛阿尔托和特拉维夫设有办公室,把自己的工作概括为「one goal and one product: a safe superintelligence」(一个目标、一个产品:安全的超级智能)。[3][4] 2025 年 7 月,Gross 离开公司前往 Meta 后,他出任 SSI 的首席执行官。[3][4]
荣誉
他于 2022 年当选英国皇家学会会士。他先后获得 NeurIPS 时间检验奖(Test of Time Award):2022 年一次,2023 年因 word2vec 短语论文获奖,2024 年因序列到序列论文获奖。[1][8][9]
在领域中的位置
Sutskever 的公开职业经历贯穿了让深度学习成为可用技术的几项工作:2012 年用 AlexNet 做图像识别,在谷歌做序列到序列学习与词向量,在 OpenAI 推进大规模生成模型的扩展。[1][5][7] 图灵奖公告特别提到 AlexNet 把 ImageNet 错误率几乎减半,而序列到序列与 word2vec 两篇论文后来分别获得 NeurIPS 时间检验奖。[6][8][9] 自 2024 年起,他公开的重心从构建更大的通用模型转向了新公司名称所指的那一个目标:安全的超级智能。[3][4]
生涯时间线
20-
1827
-
多伦多大学
任职于
多伦多大学是加拿大的公立研究型大学。杰弗里·辛顿(Geoffrey Hinton)自1987年起与其保持隶属关系,2012年的深度卷积网络AlexNet也在这里研发。
-
多伦多大学
任职于
-
2012
-
AlexNet
参与
AlexNet 是一个八层卷积神经网络,在 ILSVRC2012 图像分类任务中以明显优势夺冠,证明用 GPU 在大型标注数据集上训练的大网络可以胜过手工设计特征的方法。
-
ImageNet Classification with Deep Convolutional Neural Networks(用深度卷积神经网络做 ImageNet 分类)
参与
2012年的NeurIPS论文提出了AlexNet,这是一个在GPU上训练的大型卷积神经网络,并在ILSVRC-2012竞赛中夺冠。
-
斯坦福大学
任职于 2012–2012
斯坦福大学是位于加州的私立研究型大学,建有斯坦福人工智能实验室(SAIL)与以人为本人工智能研究院(HAI),后者每年发布AI Index报告。
-
AlexNet
参与
-
2013
-
谷歌大脑(Google Brain)
任职于 2013–2015
谷歌大脑是谷歌 2011 年启动的深度学习团队,以神经网络识别猫闻名,贡献了 TensorFlow 与 Transformer,2023 年并入 Google DeepMind。
-
谷歌大脑(Google Brain)
任职于 2013–2015
-
2014
-
Dropout:一种防止神经网络过拟合的简单方法
参与
2014 年的一篇论文提出 Dropout:训练时随机丢弃神经元,让大型神经网络不易过拟合,并在视觉、语音等领域的多项基准上取得当时最好的结果。
-
Sequence to Sequence Learning with Neural Networks(用神经网络做序列到序列学习)
参与
Sutskever、Vinyals 与 Le 2014 年的这篇论文表明,两个 LSTM 可以完成翻译并超过基于短语的基线,确立了后来翻译模型常用的编码器-解码器模式。
-
Dropout:一种防止神经网络过拟合的简单方法
参与
-
2015
-
OpenAI
创立、任职于 2015–2024
OpenAI 是总部位于旧金山的 AI 研究与部署公司,2015年以非营利组织成立,开发 GPT 系列模型和 ChatGPT,2026年6月秘密提交 IPO 申请。
-
OpenAI
创立、任职于 2015–2024
-
2016
-
Mastering the game of Go with deep neural networks and tree search(用深度神经网络和树搜索掌握围棋)
参与
2016年《自然》论文介绍了AlphaGo,它结合深度神经网络与树搜索。2015年10月,其分布式版本以5比0击败职业棋手樊麾,首次在不让子的全尺寸围棋中战胜职业棋手。
-
Mastering the game of Go with deep neural networks and tree search(用深度神经网络和树搜索掌握围棋)
参与
-
2018
-
通过生成式预训练提升语言理解(GPT)
参与
OpenAI 在 2018 年发表的 GPT 论文:先用海量无标注文本训练 Transformer 解码器预测下一个词,再针对具体任务微调。它在研究的 12 项任务中有 9 项刷新了最好成绩。
-
GPT-1(初代 GPT)
参与
GPT-1 是 OpenAI 的第一代生成式预训练 Transformer,发布于 2018年6月。它表明,先用无标注文本预训练、再针对具体任务微调的同一个语言模型,能够改进多项语言任务的结果。
-
通过生成式预训练提升语言理解(GPT)
参与
-
2019
-
语言模型是无监督的多任务学习者(GPT-2)
参与
OpenAI 在 2019 年发表的 GPT-2 论文,模型拥有 15 亿参数。研究表明,仅训练预测下一个词的模型在提示下就能完成多种任务,其分阶段发布也引发了关于是否公开强大模型的讨论。
-
GPT-2
参与
GPT-2 是 OpenAI 于2019年2月宣布的大型语言模型,最大版本有 15 亿参数。OpenAI 起初没有公开完整模型,随后分阶段发布,直到2019年11月才发布完整版本。
-
语言模型是无监督的多任务学习者(GPT-2)
参与
-
2020
-
GPT-3
参与
GPT-3 是一个拥有 1750 亿参数的自回归语言模型,相关论文发表于2020年5月。它能在提示词中仅凭少量示例完成新任务,无需梯度更新,最初通过 OpenAI 的 API 提供。
-
语言模型是少样本学习者(GPT-3)
参与
GPT-3 论文表明,一个拥有 1750 亿个参数的语言模型,只要在提示词(prompt)里给出几个例子,就能完成许多任务,无需额外微调;而且这种能力随模型规模增大而增强。
-
GPT-3
参与
-
2021
-
DALL·E(初代)
参与
DALL·E 是 OpenAI 于 2021 年 1 月 5 日公布的文本生成图像模型,用 120 亿参数和 2.5 亿对图文数据训练,按文字描述逐个图像词元生成图片。
-
从自然语言监督中学习可迁移的视觉模型(CLIP)
参与
CLIP 是 OpenAI 用 4 亿对图文数据训练的模型,把图像与文字映射到同一个空间,因此能凭一句文字提示直接完成图像分类。
-
OpenAI Codex(2021 代码模型)
参与
OpenAI Codex 是2021年发布的 GPT 语言模型,在 GitHub 的公开代码上微调而成,能把自然语言翻译成代码,并随 HumanEval 基准测试一同提出。
-
DALL·E(初代)
参与
-
2022
-
Whisper(语音识别模型)
参与
Whisper 是 OpenAI 开源的语音识别系统,2022 年 9 月发布,训练数据达 68 万小时,可转写多语言语音并翻译成英文。
-
Whisper(语音识别模型)
参与
-
2024
-
安全超级智能公司(SSI)
创立
安全超级智能公司(SSI)是 Ilya Sutskever 等人于 2024 年 6 月创办的美国 AI 公司,目标是直接造出安全的超级智能,中途不发布任何产品。
-
安全超级智能公司(SSI)
创立
20251
-
2025 年 3 月,Safe Superintelligence 在一轮由 Greenoaks 资本领投的融资中估值达 300 亿美元,是 2024 年 9 月的六倍;当时公司没有收入,员工约 20 人。
20242
-
里程碑Ilya Sutskever 创立安全超级智能公司 SSI
2024 年 6 月 19 日,Ilya Sutskever 在 X 上宣布成立安全超级智能公司(SSI),公司只有一个明确目标:建设安全的超级智能。2024 年 9 月,公司融资 10 亿美元。
-
离职Sutskever 与 Leike 离职,OpenAI 超级对齐团队解散
OpenAI 首席科学家 Ilya Sutskever 于 2024 年 5 月离职,超级对齐团队随后被解散,共同负责人 Jan Leike 辞职并公开批评安全让位于产品。
20232
-
2023 年 11 月,OpenAI 董事会以「不够坦诚」为由解雇首席执行官奥尔特曼;在员工集体施压和微软伸出橄榄枝后,他数日内回归,董事会也随之改组。
-
2023 年 7 月,OpenAI 成立由 Ilya Sutskever 与 Jan Leike 共同领导的超级对齐团队,计划四年内解决超级智能对齐的核心难题,并投入公司 20% 的算力。
20211
-
2021 年 1 月 5 日,OpenAI 同时发布 DALL·E 和 CLIP。DALL·E 能根据文字描述生成图像,CLIP 能从自然语言中学习视觉概念并对图像分类。
20201
-
2020 年 5 月,OpenAI 发表 GPT-3 论文。这个拥有 1750 亿参数的语言模型,只需在输入文本中给出少量示例,就能完成新任务,无需额外训练。
20191
-
2019 年 2 月,OpenAI 宣布 GPT-2,这是一个无需专门训练即可完成多项任务的 15 亿参数语言模型。OpenAI 未立即公开完整模型,而是分阶段发布。
20181
-
2018 年 6 月,OpenAI 发表论文,提出先用无标注文本做生成式预训练、再针对具体任务微调的方法。该方法在研究的 12 项任务中,有 9 项超过了当时的最好成绩。
20151
-
2015 年 12 月,马斯克、奥特曼等人在旧金山创办非营利机构 OpenAI,宣称目标是让数字智能惠及全人类,而不受财务回报的约束。
20121
-
评测AlexNet 赢得 ImageNet ILSVRC 2012 挑战赛
2012 年 10 月,多伦多大学团队的 AlexNet 在 ImageNet 图像识别挑战赛中以大幅优势夺冠,表明在大规模数据和 GPU 上训练的神经网络能远超手工设计特征的方法。
参与15
- Whisper(语音识别模型)
- OpenAI Codex(2021 代码模型)
- 从自然语言监督中学习可迁移的视觉模型(CLIP)
- DALL·E(初代)
- GPT-3
- 语言模型是少样本学习者(GPT-3)
- GPT-2
- 语言模型是无监督的多任务学习者(GPT-2)
- 通过生成式预训练提升语言理解(GPT)
- GPT-1(初代 GPT)
- Mastering the game of Go with deep neural networks and tree search(用深度神经网络和树搜索掌握围棋)
- Sequence to Sequence Learning with Neural Networks(用神经网络做序列到序列学习)
- Dropout:一种防止神经网络过拟合的简单方法
- ImageNet Classification with Deep Convolutional Neural Networks(用深度卷积神经网络做 ImageNet 分类)
- AlexNet
注释与来源
- Ilya Sutskeverhttps://en.wikipedia.org/wiki/Ilya_Sutskever
- Ilya Sutskever, OpenAI co-founder and longtime chief scientist, departshttps://techcrunch.com/2024/05/14/ilya-sutskever-openai-co-founder-and-longtime-chief-scientist-departs/
- Ilya Sutskever, OpenAI's former chief scientist, launches new AI companyhttps://techcrunch.com/2024/06/19/ilya-sutskever-openais-former-chief-scientist-launches-new-ai-company/
- Safe Superintelligence Inc.https://ssi.inc/
- Language Models are Few-Shot Learnershttps://arxiv.org/abs/2005.14165
- Fathers of the Deep Learning Revolution Receive ACM A.M. Turing Awardhttps://www.eurekalert.org/news-releases/508417
- Sequence to Sequence Learning with Neural Networkshttps://arxiv.org/abs/1409.3215
- Announcing the NeurIPS 2024 Test of Time Paper Awardshttps://blog.neurips.cc/2024/11/27/announcing-the-neurips-2024-test-of-time-paper-awards/
- NeurIPS 2023 Test of Time Award talk: Distributed Representations of Words and Phrases and their Compositionalityhttps://neurips.cc/virtual/2023/test-of-time/83333
引用本页: 伊利亚·苏茨克维(Ilya Sutskever). TellWorld, https://www.tellworld.net/zh/people/ilya-sutskever. 更新于 2026-11-08