科学界论文高引第一人易主!AI站上历史巅峰

  魔镜魔镜,谁是有史以来被引用次数最多的科学家?

  答案:深度学习三巨头之一、图灵奖得主 Yoshua Bengio。

  如你所见,之所以提出这个问题,其实是因为相关消息正在引起热议 ing。

  并且这一次,Bengio 的“最高引”头衔不仅限于计算机领域,而是“称霸”所有学科,属于“各领域被引用次数最多的在世科学家”

  在这之前,早在 2018 年,Bengio 就是世界计算机研究者中单日引用次数最高的人(同一年获图灵奖),2022 年还一举成为世界上被引用次数最多的计算机科学家。

  其贡献最大的几篇论文《一种神经概率语言模型》(发表于 2003 年)、《Generative adversarial nets》(发表于 2014 年的 GAN)、《Deep learning》(发表于 2015 年)全都为深度学习领域奠定了重要基础,深刻影响着如今大火的自然语言处理、计算机视觉等研究。

  而在网友们的讨论中,热议背后更深层的意义也逐渐明晰:AI 的胜利。

  • Bengio 改变了人工智能,其对深度学习的贡献真正塑造了现代人工智能研究。

  所以,借此机会,我们不妨再来回顾一下 Bengio 是谁,他又如何改变了人工智能——

  “影响了一代人”的深度学习先驱

  Yoshua Bengio,1964 年出生于法国巴黎,后全家移居加拿大。

  关于成长早期,Bengio 曾自述为“典型的书呆子”,高中无聊时经常独自在图书馆看书。

  十几岁的时候,他终于和弟弟(Samy Bengio,现任苹果公司 AI 与机器学习研究高级总监)通过送报纸攒够了买电脑的钱——当时买了 Atari 800 和 Apple II 个人电脑。

  或许是因为这进一步点燃了他对电脑的兴趣,1986~1991 年,他在麦吉尔大学计算机科学系一路读完了本硕博。

  注意,其博士导师正是 Geoffrey Hinton,在受 Hinton 启发开始对“什么是智力?”这一问题产生兴趣后,他选择研究语音识别,并开始从经典统计模型转向神经网络。

  后来,他又分别去了 MIT 和大名鼎鼎的贝尔实验室从事科学研究,也是在贝尔实验室,他开始与 Yann LeCun 合作,将其博士论文中的技术应用于实际问题。

  至此深度学习三巨头(Bengio、Hinton、LeCun)算是结成了一张网。

  直到 1993 年,他被聘为蒙特利尔大学助理教授,之后陆续晋升为副教授、教授,至今仍为该校教授,担任蒙特利尔学习算法研究所 (MILA) 所长,并担任加拿大高等研究院机器与脑机学习项目的联合主任。

  而除了以上求学和职业经历,Bengio 之所以为人熟知还是因为他在深度学习方面的贡献。

  2018 年,三巨头共同拿下了计算机领域的国际最高奖项——图灵奖,理由是他们在深度神经网络概念和工程上的突破,使得 DNN 成为计算的一个重要构成。

  具体到 Bengio,ACM 细数了其三大重要贡献:列的概率建模、高维词嵌入与注意力机制、生成对抗网络

  这里就不得不提到 Bengio 发表或参与发表的几篇重要论文(总引 95 万+)。

  2000 年,他撰写了具有里程碑意义的论文《一种神经概率语言模型》,提出用神经网络解决语言建模中的“维度灾难(curse of dimensionality)”问题,为后来的大语言模型(如 GPT 系列)奠定基础。

  2014 年,其博士生 Ian Goodfellow 发明了生成对抗网络 GAN (Bengio 为共同作者) ,这是首次提出生成对抗网络的论文,也是 Bengio 目前引用量最高的一篇。

  排在第二的就是三巨头 2015 年共同发表的《Deep learning》,这篇论文不仅系统总结了深度学习的发展历程,还深入剖析了其理论基础、核心算法和广泛应用,被视为深度学习领域的“圣经”。

  再加上后来的几篇,可以说,Bengio 在深度学习、循环神经网络、注意力机制、GAN 等方面均做出了开创性贡献,推动了机器翻译、自然语言处理、计算机视觉等领域的巨大进步。

  也正是因为这些研究,Bengio 被公认为人工智能专家和深度学习先驱,堪称影响了一代人。

  不过最近一阵,Bengio 已经官宣再次创业了——

  今年 6 月,他成立了非营利组织 LawZero,要构建下一代 AI 系统,而且明确不做 Agent(官宣时透露已筹集到 3000 万美元启动资金)

  Bengio 表示,当前 AI 系统已显现出自我保护和欺骗行为的迹象,随着其能力和自主性的提升,这种趋势只会加速,LawZero 是他们针对这些挑战所给出的建设性回应。

  • 它以理解学习世界为核心目标,而非在世界中采取行动,通过透明化外部推理,对问题提供可验证的真实答案,“可用于加速科学发现、为 Agent 型 AI 系统提供监督,并深化大家对 AI 风险及其规避方法的理解”。

  何恺明、Ilya 都上榜了

  说完 Bengio,人们自然而然地好奇——

  老二是谁呢?谁将有希望超越 Bengio?

  好嘛,还是我们的老熟人Geoffrey Hinton,其论文总引用量目前接近 94 万,和 Bengio 差距不大。

  而且扒一扒 AD Scientific Index 网站发布的完整名单,光是 TOP 10 就有不少大家熟悉的人。

  这里补充一下 AD Scientific Index 的介绍,该平台对全球超过 260 万科研人员、24500 多家机构(包括大学、研究所、企业、医院等)、来自 221 个国家的研究表现进行评估。

  评估指标包括H-index、i10-index 和总引用数这三个,每个指标都提供“整个职业生涯”与“最近 5 或 6 年”两个时间段的数据(兼顾长期积累与近期活跃度),索引主要基于公开的 Google Scholar 个人资料,经过多层清洗和审核处理。

  整体而言,这个网站的排名不仅具备实时性(谷歌学术数据约 20 天自动刷新一次,排名则每 2 天重新计算与发布),而且覆盖了各种学科类型。

  咱们的老熟人还有排在第五的何恺明(总引 73 万+)、排第七的 Ilya Sutskever(总引 67 万+),剩余几位几乎都是医学领域的科学家。

  总之,透过这一排名,我们能看到当下最热的两大领域:AI 和医学。

  毕竟,当一个人的论文被全世界数十万次引用,或许就不仅仅只是学术荣耀那么简单,而更有可能代表了时代的注脚。