深度学习三剑客摘得图灵奖:30年的坚持终被认可

他们坚持的深度神经网络理念,曾不被大多数人看好;但三十年的持续贡献,证明了他们的正确。
因为在深度学习上持之以恒的优秀研究,推动了人工智能在21前两个十年的爆发式发展,创造了无数的技术突破——三位名字我们不能更熟悉的计算机科学家,摘得了2018年度的图灵奖。


没错,他们正是被称为“深度学习三剑客”的 Yoshua Bengio、Geoffery Hinton 和 Yann LeCun!

3月27日,国际计算机学会 ACM 于美国时间凌晨宣布了今年图灵奖的得主。这一奖项名称取自计算机先驱艾伦·图灵 (Alan. M. Turing),获奖者必须是在计算机领域具有持久而重大的先进性的技术贡献。

这一奖项对获奖者的要求极高,评奖程序也极严,一般每年只奖励一名计算机科学家,只有极少数年度有两名以上在同一方向上做出贡献的科学家同时获奖。

而今年,获奖者为三人。

任何计算机科学领域的人士,特别是从事人工智能方面的朋友,都不会对 Bengio、Hinton 和 LeCun 的名字感到陌生。

正是这三人的不懈努力,使得深度神经网络从不被看好的偏门领域,变成如今几乎所有深度学习人工智能技术进步的核心技术。

在过去的数十年间,Hinton,LeCun 和 Bengio 三人既有独立研究又有合作,共同奠定了深度神经网络领域的概念基础。他们还进行了大量实验,发现了这项技术具有令人惊讶的潜力,并进一步在工程上付出努力,证明了深度神经网络的确实优势。

国际计算机学会指出:近年来计算机视觉,语音识别,自然语言处理和机器人技术以及其他应用取得惊人突破,皆是因为这三人推动的这一场长达三十年的深度学习革命。

但深度学习并不一直像今天这样,是计算机科学的大热领域。在提出之后(主要因为大部分人没有“看到未来”,以及当时的计算能力跟不上,)深度学习曾遭到学界质疑,不被看好。

而 Bengio、Hinton、LeCun 三人坚持了下来,他们努力克服计算量和数据量不够的限制,在机器学习特别是深度学习领域发明了许多革命性的、底层性质的技术,如反向传播 (Backpropagation)、卷积神经网络 (CNN) 和生成对抗式神经网络 (GAN)、注意力 (Attention) 等。比如,反向传播算法目前仍是大部分深度神经网络的标配。

他们参与发明的技术,也激活了许多充满想象力的使用场景,为机器学习/深度学习得以被业界接受创造了条件。比如,LeCun 基于机器学习开发的光学字符识别 (OCR) 技术,被美国银行业广泛用于后台的支票处理;Bengio 推动了自然语言理解和处理技术的进步,他参与的研究进入了许多机器翻译、人工智能助手类产品。

因此,Bengio、Hinton 和 LeCun 被称为“深度学习的三剑客”。

也正是因为三人是最早的神经网络笃信者,虽然大部分时间做各自的研究,其实人生中发生过许多的交集。Hinton 曾开玩笑地表示,三人平均每周都要见一次,而聚会经常以吵架结束。

Yoshua Bengio

大学本科、硕士和博士毕业于蒙特利尔的麦吉尔大学 (McGill University),Bengio 先后在美国麻省理工学院 (MIT) 和 AT&T 贝尔实验室担任博士后学者。从1993年开始,Bengio 便一直在加拿大蒙特利尔大学计算机系任教。他还创办了蒙特利尔学习算法学院 (MILA)。

国际计算机学会颁发图灵奖给 Bengio,主要表彰了他在神经网络概率模型、高维度向量自然语言表征和注意力机制,以及生成对抗式神经网络方面的重要贡献。Bengio 和其他专家合著的《深度学习》,被誉为这一领域内的“圣经”。他还是深度学习学术领域顶级会议 ICLR 的联合创办人。

他还为多家人工智能初创公司出任顾问,而这些公司当中已经有一些被业界巨头收购。微软在2017年宣布收购由 Bengio 学生创办的 Maluuba,而在微软负责人工智能科研的全球执行副总裁沈向洋表示,Bengio 将成为微软以及他本人的顾问。

他还是 Google Scholar 计算机科学领域 H-index 最高,也即论文在近期被引用最多的作者。2018年,Bengio 的论文平均每天被引用131次。

Geoff Hinton

Hinton 本科学习实验心理学,毕业于剑桥大学国王学院,然后在爱丁堡大学获得了人工智能的博士学位。因为在英国找不到足够的科研资金,Hinton 转战美国,先后加入了加州大学圣迭戈分校和卡内基梅隆大学,最终在加拿大扎下了根,至今在多伦多大学担任计算机科学教授。

从某种角度来看,Hinton 是上世纪最后一波来自英国计算机科学家的代表。他的学术研究所在地的改变,是北美人工智能科研腾飞的最佳注脚。

国际计算机学会颁发图灵奖给 Hinton,主要表彰了他在反向传播算法、最早神经网络模型之一的玻尔兹曼机,以及对卷积神经网络改进等方面的重要贡献。Hinton 乐于分享他的知识和见解,在吴恩达创办的 Coursera 上免费教授神经网络课程。

Google 在2012年收购了 Hinton 参与创办的 DNNresearch 公司,Hinton 也加入了 Google 兼任副总裁直至今天。不过在一两年前,他就淡出了 Google 的日常科研和业务,将时间和精力更多放在多伦多大学的教职以及其他学术工作上。

Yann LeCun

在法国巴黎第六大学攻读博士学位期间,LeCun 提出了反向传播算法的一个早期版本,得到了 Hinton 的注意。博士毕业后,LeCun 去多大给 Hinton 当了一年的学生。

没过多久,LeCun 就出走了。在贝尔实验室,他的才能开始发光,于上世纪末先后发明了多种优秀的神经网络,比如用于光学字符识别-手写识别的 Graph Transformer Network,以及卷积神经网络这种至今仍被广泛采用的模型。

目前,LeCun 在纽约大学担任计算机科学和工程学教授,在校期间还创办了数据科学中心。LeCun 和另一位 NYU 深度学习专家 Gary Marcus 之间关于认知能力(2017年)以及通用人工智能(2018年 )的两次辩论,在人工智能领域非常有名,值得学习和参考。

国际计算机学会颁发图灵奖给 LeCun,主要表彰了他在卷积神经网络、改进反向传播算法,以及扩展神经网络用途方面的重要贡献。LeCun 还跟 Bengio 一起创办了深度学习顶会 ICLR。

2013年,LeCun 加入 Facebook,创办 Facebook 人工智能研究院 (FAIR) 并担任创始院长直到2018年卸任。在任期间,他在一定程度上推动了 Facebook 在产品里整合人工智能技术,并且为 Facebook 吸引到了更多深度学习方面的人才。

国际计算机学会将于今年2019年6月15日在旧金山召开图灵奖颁奖典礼。届时,硅星人将带来现场报道。

这一奖项目前由 Google 赞助,总奖金高达100万美元。

相关评论