新智元报道
编辑：元宇
我们需要「AI 母亲」，而非「AI 助手」！在 Ai4 2025 大会上，「AI 教父」再次表达了他对 AI 安全的担忧。他警告说人类要继续控制 AI 是虚幻的希望，并提出与之相反的有趣视角：为 AI 建立「母性本能」。
人类需要一个「AI 母亲」吗？
在 Ai4 2025 大会上，Hinton 警告说：AGI 时代的到来可能只需要几年，留给人类做好准备的时间已经不多了，试图维持人类对 AI 的控制终将是徒劳。
在人类与 AI 的控制权之争上，Hinton 并没有提到人类要如何防止自己被 AI 超越；相反，这位「AI 教父」却抛出了一个有趣的视角：在 AI 中建立「母性本能」，让它可以真正「关心人类」。
人类唯一的机会，就是将 AI 塑造成关心我们的存在，这也是处理二者关系「唯一的好结局」。
Hinton
人类无法控制 AI，我们需要「AI 母亲」
在 Ai4 2025 大会上，当谈到「人工智能什么时候会超过人类」时，Hinton 的语气立刻严肃起来，他再次缩短了自己对 AGI 来临时间的预测。
「我以前说是三十到五十年。现在，可能是二十年以上，也可能只有几年。」
在科技圈，很多人将人类与 AI 的未来视为一场控制权之争：人类必须保持主导地位，但 Hinton 认为这是一种虚幻的希望。
Hinton 认为 AI 将很快演化出两个子目标：
其一：维持自身存续——如果你无法存活，就无法实现任何其他目标；
其二：获得更多控制权——如果你能获得更多控制权，就能完成更多事情。
因此，Hinton 眼中的 AI，并非一些小的升级，而是远超过任何活着的人类的系统。
「它们将比我们聪明得多」，Hinton 相信 AI 将在 5 到 20 年内超越人类智能，这一刻一旦来临，人类将无法控制住 AI。
他说，「想象一下你在一个由三岁小孩组成的操场上担任负责人，如果他们比你聪明，想要绕开你其实并不难。」
Hinton 表示，人们一直以来都错误地看待了「人类 vs AI」这一命题。
「人们总是在说……我们必须牢牢控制住这些 AI。我们必须比它们更强大。我们必须占据主导，而它们必须顺从。」
但这根本行不通。
「AI 将会比我们聪明得多，并且会想出各种各样的方法来绕开这种限制。」
因此，我们需要重新定义这个问题。
我们不需要让自己变得更强，或者维持控制。
而是当 AI 变得比我们更强大、更聪明时，我们要做的是让它们依然在乎我们。
换句话说，「我们需要的是 AI 母亲。」
让 AI「抚养」人类，是唯一安全的未来
Hinton 解释说，母亲拥有各种与生俱来的本能、激素和社会压力，驱使她们真切地关爱自己的孩子。
因此，「我们需要将母性本能植入 AI，让它们能够真正地关心人类」，Hinton 说。
这些充满爱心的人工智能母亲，大多数都不想摆脱母性本能，因为它们不想让我们死去。
Hinton 甚至还警告说，让 AI「抚养」人类，是唯一安全的未来。
他相信这是唯一能促成真正国际合作的领域，因为所有国家都想阻止 AI 取代人类。
「从某种意义上说，AI 终将接管一切，因为它会比我们更强大、更聪明。」
Hinton 说，我们唯一的机会，就是将 AI 塑造成关心我们的存在。
让 AI 来「抚养」人类，这是唯一好的结局。如果「它不来抚养我，它就会取代我。」
不仅提出设想，Hinton 还对如何创造出「AI 母亲」提出了技术构想。
Hinton 坦言，目前自己并不知道这个问题的答案，因为这需要大量的研究，但他也为此指出了方向：
研究的重点，不是关于如何让 AI 更聪明，而是如何让它们更具母性，从而能像关心自己的孩子一样关心我们。
2023 年，时任谷歌首席 AI 科学家的 Hinton 从谷歌辞职，这样他就可以自由地提醒人们警惕 AI 的风险，而不必顾虑对谷歌的影响。
在今年的 Ai4 大会上，当被问及对 AI 发展过快问题的担忧时，Hinton 表示，他后悔只专注于让人工智能发挥作用。
如果知道人工智能的发展速度如此之快，他希望自己能够更早地考虑 AI 的安全问题。
李飞飞
人类不能丧失尊严
然而，并非所有人都同意 Hinton 有关「AI 母亲」的看法。
被称作「AI 教母」的李飞飞，在周三 Ai4 的一次炉边谈话时，曾表示：她尊重并反对她的老朋友 Hinton 的观点。
李飞飞呼吁打造「以人为本的人工智能，维护人类尊严与自主权」。
她认为，在每一个层面，我们都有责任以最负责任的方式创造和使用技术。在任何时刻，没有一个人应该被要求，或者主动选择放弃我们的人类尊严。
「从一名母亲、教育者和发明者出发，我认为，（AI）仅仅是作为一个工具很强大，这才是人类应该如何构建人工智能的核心。」
与李飞飞不同的是，Hinton 的观点，得到了 OpenAI 前临时 CEO、Twitch 联合创始人 Emmett Shear 的赞同。
Shear 还指出与其试图将人类价值观灌输到人工智能系统中，更明智的方法，是建立人类与人工智能之间的合作关系。
他说，「在最基本的层面上，我们需要 AI 能够关心我们，而不只是遵循我们的价值观。它必须在乎我们，我们也必须在乎它。」
要实现这一点，Shear 认为 AI 需要发展出一种「自我意识」。
因为如果你不是一个独立的「我」，你就不可能成为「我们」的一员。
这正是 Shear 和他的 MetaGrid 项目所致力探索的方向。
MetaGrid 项目是一个多智能体网格世界环境，在这个环境中，AI 可以在其中反复体验各种挑战，并获得相互竞争或合作的机会。
Shear 表示，MetaGrid 项目的目标是让 AI 随着时间的推移，逐渐发展出自我意识，认识到成为团队一员的意义。
在日益强大的 AI 面前，我们需要一个「AI 母亲」吗？
Hinton 和李飞飞的观点，你更支持哪一个？欢迎在评论区说出你的看法。
参考资料：
