新智元报道
编辑：昕朋好困
2019 年，马库斯和图灵奖得主 Bengio 就 AI 技术发展方向展开了一场现场辩论。2022 年，这场世界人工智能交流盛宴的规模再度升级。马库斯、LSTM 之父、麦克阿瑟奖得主等 16 名学者，从不同方向，共同探讨通用人工智能的未来。
中断一年后，由 Montreal.AI 和纽约大学名誉教授 Gary Marcus 组织的年度人工智能辩论于上周五晚上回归，与 2020 年一样再次以线上会议形式召开。
今年的辩论——AI 辩论3：AGI 辩论——重点关注通用人工智能的概念，即能够集成无数接近人类水平的推理能力的机器。
视频链接：https://www.youtube.com/watch?v=JGiLz_Jx9uI&t=7s
本次讨论共计三个半小时，围绕与人工智能相关的五个主题展开：认知与神经科学、常识、架构、伦理与道德以及政策和贡献。
除了众多计算机科学领域的大牛外，还有计算神经科学家 Konrad Kording 等 16 位专家参与其中。
本文简单总结了其中 5 位大佬的观点，感兴趣的读者可以通过上面的链接观看完整视频。
主持人：马库斯
作为著名的批评家，马库斯引用了自己在《纽约客》上的文章《「深度学习」是人工智能发展的一场革命吗？》，再次对 AI 的发展泼了盆冷水。
马库斯表示，与李飞飞团队成功发布 ImageNet 后人们对人工智能长达十年的热情浪潮相反，制造无所不能的机器的「愿望」并没有实现。
DeepMind 神经科学家 Dileep George
来自谷歌 DeepMind 的神经科学家 Dileep George 曾经提出过一个名为「先天性」的概念。
简单来说，就是某些「内建」在人类思想中的想法。
那么对于人工智能来说，我们应该更关注先天性吗？
对此，George 表示，任何一种从初始状态到某种稳定状态的增长和发展都涉及三个因素。
一是初始状态下的内部结构，二是输入的数据，三是通用的自然法则。
「事实证明，先天结构在我们发现的每个领域都发挥着非凡的作用。」
对于那些被认为是学习的典型例子，比如习得语言，一旦你开始拆解，就会发现数据几乎并不会对其产生影响。
自从人类出现以来，语言就没有改变过，任何文化中的任何孩子都能掌握语言就证明了这一点。
George 认为，语言将成为人工智能的核心，从而让我们有机会搞清楚，到底是什么让人类成为一个如此独特的物种。
华盛顿大学教授 Yejin Choi
华盛顿大学计算机科学教授 Yejin Choi 预测道，AI 在未来几年内的表现，将越来越惊人。
但是，由于我们并不知道网络的深度，它们将继续在对抗性和边角案例上犯错。
「对于机器来说语言和智力的暗物质，可能就是常识。」
当然，这里所说的暗物质，是对人类来说容易但对机器来说很难的东西。
LSTM 之父Jürgen Schmidhuber
马库斯表示，我们现在可以从大型语言模型中获取大量的知识，但实际上这种范式需要被转变。因为语言模型实际上被「剥夺」了多种类型的输入。
瑞士人工智能实验室 IDSIA 主任、LSTM 之父Jürgen Schmidhuber 回应称，「我们今天讨论的大部分内容，至少在原则上，已经在很多年前通过『通用神经网络』得到解决。」 这样的系统「还不如人类」。
Schmidhuber 表示，随着计算能力每隔几年变得更便宜，「旧理论」又回来了。「我们可以用这些旧算法做很多当时我们做不到的事情。」
接着，IBM 研究员 Francesca Rossi 向 Schmidhuber 提出了一个问题：「我们怎么会看到仍然没有我们想要的功能的系统？你怎么看？那些定义的技术仍然没有进入当前的系统？」
对此，Schmidhuber 认为，目前主要是计算成本问题：
循环网络可以运行任意算法，其中最美妙的方面之一是它还可以学习学习算法。最大的问题是它可以学习哪些算法？我们可能需要更好的算法。改进学习算法的选项。 第一个此类系统出现在 1992 年。我在 1992 年写了第一篇论文。那时候我们对此几乎无能为力。今天我们可以拥有数百万和数十亿个权重。 最近与我的学生进行的合作表明，这些旧概念在这里和那里进行了一些改进，突然间效果非常好，你可以学习比反向传播更好的新学习算法。
英属哥伦比亚大学副教授 Jeff Clune
英属哥伦比亚大学计算机科学副教授 Jeff Clune 讨论的主题是「AI 生成算法：通往 AGI 的最快路径」。
Clune 表示，今天人工智能走的是一条「人工道路」，这也就意味着各种学习规则和目标函数等等都需要靠人来手动完成。
对此他认为，在今后的实践中，人工设计的方法终究是要让位于自动生成的。
随后，Clune 又提出了推动 AI 发展的「三大支柱」：元学习架构、元学习算法，以及自动生成有效的学习环境和数据。
在此，Clune 建议增加一个「第四支柱」，即「利用人类数据」。比如，在 Minecraft 环境里运行的模型，就可以通过学习人类玩游戏的视频获得「巨大的提升」。
最后，Clune 预测，我们有 30% 的可能性在 2030 年实现 AGI，而且还不需要新的范式。
值得注意的是，此处 AGI 被定义为「能够完成 50% 以上的有经济价值的人类工作」。
总结一下
在讨论的最后，马库斯让所有参与者在 30 秒内回答一个问题：「如果你能给学生一条建议，例如，现在我们最需要研究哪个人工智能的问题，或者如何为人工智能日益成为主流和中心的世界做好准备，建议是什么？」
Choi 称：「我们必须处理 AI 与人类价值观保持一致的问题，尤其是要强调多元化；我认为这是我们面临的真正关键挑战之一，更广泛地应对诸如鲁棒性、泛化和可解释性等挑战。」
George 从研究方向角度给出建议：「先确定好想从事规模化研究还是基础研究，因为它们有不同的轨迹。」
Clune：「AGI 即将到来。所以，对于开发 AI 的研究人员，我鼓励你们从事基于工程、算法、元学习、端到端学习等技术，因为这些最有可能被吸收进入我们正在创建的 AGI。对于非 AI 研究人员来说，最重要的可能是治理问题。例如，开发 AGI 时的规则是什么？规则由谁来决定？我们又该如何让全世界的研究人员都遵循这套规则？」
马库斯在晚会结束时回忆起他在上一场辩论中的发言：「培养人工智能需要一村子的人。」
「我认为现在更是如此，」他说。「AI 以前是个孩子，现在有点像一个闹腾的少年，还没有完全具备成熟的判断力。」
他总结说：「这一刻既令人兴奋又危险。」
参考资料：
