Bengio、Hinton、LeCun 获 2018 年 ACM 图灵奖

一个曾经冷清的研究方向

神经网络是由一层层简单计算单元搭起来的系统，它的内部设置靠数据训练得到，而不是由人逐条写死规则。这一思路在 1980 年代被提出，到 2000 年代初，仍在坚持这条路线的人已经不多，Yoshua Bengio、Geoffrey Hinton 和 Yann LeCun 是其中一小群 ^[1]。他们持续打磨的这套方法，如今已是该领域的主流范式 ^[1]。

获奖的公布

2019 年 3 月 27 日，ACM 在纽约宣布，2018 年 ACM A.M. 图灵奖（ACM A.M. Turing Award）授予这三人 ^[1]。奖项的引文表彰了那些让深度神经网络（deep neural networks）成为计算关键组成部分的概念性与工程性突破 ^[1]。

图灵奖常被称为「计算界的诺贝尔奖」。它附带 100 万美元奖金，资金由 Google 公司提供 ^[1]。三人原定在 2019 年 6 月 15 日星期六于旧金山举行的 ACM 年度颁奖晚宴上正式领奖 ^[1]。

公布之时，ACM 对三人的介绍是：Bengio 为蒙特利尔大学教授、Mila 科学总监；Hinton 为 Google 副总裁兼工程研究员、Vector 研究所首席科学顾问、多伦多大学荣休大学教授；LeCun 为纽约大学教授、Facebook 副总裁兼首席 AI 科学家 ^[1]。

三人各自的贡献

ACM 的引文为三人分别列出了具体工作。

Hinton 被提到的是：1986 年与 David Rumelhart、Ronald Williams 合写的反向传播论文；1983 年与 Terrence Sejnowski 合作的玻尔兹曼机（Boltzmann Machines）工作；以及 2012 年 AlexNet 中使用修正线性神经元（rectified linear neurons）和 dropout 的改进 ^[1]。反向传播（backpropagation）做的事情，是让网络算出每个内部设置对误差负多大责任，再据此调整它，这也是后来大多数训练方法的基础。

Bengio 被提到的是：1990 年代对序列的概率建模；2000 年提出高维词嵌入（word embeddings）的论文「A Neural Probabilistic Language Model」；他所在研究组提出的注意力机制（attention mechanism）；以及与 Ian Goodfellow 共同开发的生成对抗网络（generative adversarial networks）^[1]。词嵌入是把词表示成从文本中学到的一组数字向量，而不是由人手工定义；注意力机制让模型在生成输出的每一步判断输入的哪些部分更要紧；生成对抗网络则让一个网络负责生成样本、另一个网络负责判别。

LeCun 被提到的是：1980 年代开发的卷积神经网络（convolutional neural networks）；一个早期版本的反向传播；以及与 Leon Bottou 共同提出的模块化自动微分构想 ^[1]。卷积网络在整幅图像上反复使用一小组合相同的滤波器，而不把每个输入和每个输出两两相连，这让它在图像这类网格状数据上变得实用。

为什么重要

ACM 主席 Cherri M. Pancake 表示，这些技术已被数十亿人使用，而自然语言处理和计算机视觉上的进展，在仅仅十年前还是做不到的 ^[1]。这句话点出的是变化的速度：一项曾经少人问津的研究路线，其成果已经进入日常软件。

颁奖晚宴定在 2019 年 6 月 15 日 ^[1]。三人共享同一个奖项，而他们各自的工作又彼此呼应——被承认的既是一项研究纲领，也是三个人的职业生涯。