新智元报道
编辑：Aeneas 桃子
2024 年终，AI 大佬们纷纷发出预测。奥特曼表示，ASI 将很快到来，18 个月后，我们或许就将见证奇迹。LeCun 表示，AGI 两年内不会到来。但 Hinton 则认为，AI 很可能在 10 年内，就会让人类灭绝！
2024 年，注定是 AI 历史上浓墨重彩的一年。
站在 2024 年的尾声，各位大佬也给出了自己对于未来的预测。
OpenAI CEO 奥特曼看来，我们即将迎接超级智能的到来，而且很快了！2026 年夏天，我们或许就会见证奇迹的出现。
Meta 首席 AI 科学家、图灵三巨头之一的 LeCun，跟奥特曼对此意见不同，他强调，AGI 在未来两年内不会发生。
获得今年诺奖的人工智能教父 Hinton 则坚信，AI 的进步会很快，但已经到了一个可怕的地步——
10 年内，AI 可能会导致人类的灭亡！
奥特曼：ASI 即将到来，想象 18 个月后
在圣诞节前夕，外媒记者 Bari Weiss 采访了 OpenAI CEO 奥特曼。
在他看来，超级人工智能 ASI，已经离我们很近了！
奥特曼让我们想象一下，18 个月后，2026 年夏天即将到来时，AI 会是什么样子？
ASI 会如何出现？
在今年 9 月，奥特曼罕见地发出长文预言：深度学习已经奏效了，ASI 即将在几千天内降临。
奥特曼强调，我们必须关注科学进步的速度，它不会改变人类深层的基本驱动力，但我们生存的世界将会发生很大的变化。
在他看来，有 AI 帮我们干活，人类就可以从工作的繁重负担中解放出来，尽情娱乐和游戏了！
人类天生渴望创造并对彼此有所帮助。人工智能将使我们前所未有地放大自身能力。作为一个社会，我们将回到一个不断扩张的世界，处于一种正和博弈。
正和博弈是指总收益大于总损失，所有参与者都获得净收益的情况。
奥特曼认为，我们今天从事的许多工作，在几百年前的人们眼中可能显得微不足道，甚至是浪费时间。
但没有人会回头怀念过去，渴望自己成为一名点灯人。
如果一个点灯人能够看到今天的世界，他会觉得眼前的繁荣完全超乎想象。
而如果我们能够快进到一百年后的未来，那时围绕人类的繁荣，同样会让我们难以想象。
奥特曼预测到来，ASI 将引发 10 倍的科学 AI 突破，每一年的革命性都会像十年一样
当被问到，如何衡量我们世界中 AI 的总体影响时，奥特曼回答说，这些 AI 产品被人们快速采用，吸引更广泛的受众的过程，已经令人印象深刻。
我从未见过，一项技术能如此迅速地被大规模使用。
那么，奥特曼本人是怎样使用 AI 的呢？
他表示，自己早已将默认搜索改成了 ChatGPT。
他经常用 ChatGPT 从网络上获取实时信息，而不是依赖过去那种传统的超链接流程——如今看来，那种方式简直像蜗牛爬行一样缓慢。
所以这种方式仍然被称为「搜索」吗？奥特曼说，自己仍称之为搜索，不过年轻人们会这样描述：我刚刚「聊」出了这个信息。
Hinton：AI 可能会在 10 年内让人类灭绝
今年刚获得诺贝尔物理学奖、77 岁高龄的 Hinton 同样认为，AI 技术的发展速度比自己预期的要快很多。
这让他感到恐惧，并且发出警告：AI 可能会在 10 年内，让人类灭绝。
作为深度学习之父，Hinton 对自己在创造这项技术中所扮演的角色表示遗憾。
AI 的迅疾发展已经如同一次全新的工业革命，但不同的是，这次，机器可能会掌控一切。
因此，政府务必加强对 AI 公司的监管。
此前，Hinton 曾预测，AI 有 10% 的可能性，会在 30 年内导致人类的灭亡。
而最近，他的说法又提前了。
在 BBC 广播 4 台的《今日》节目中，主持人问 Hinton 他的看法是否有所改变。
Hinton 再次强调说没有。甚至他表示，AI 让人类灭绝的时间可能是 10 到 20 年，因为，我们从未遇到过比我们更聪明的事物。
「你知道多少例子，是由不聪明的一方控制更聪明的一方？少之又少」。
人类是 3 岁孩童，AI 是成年人
1972 年，Hinton 在爱丁堡大学首次开始研究神经网络。当时少有研究者相信，神经网络可以通过分析数据来学习技能。
在 20 世纪 80 年代，他发明了可以自主查找数据属性、识别图片中特定元素的方法，奠定了现代人工智能的基础。
2012 年，Hinton 和两名学生 Ilya Sutskever 和 Alex Krishevsky 建立了一个神经网络，可以分析数千张照片，并自学识别花、狗和汽车等常见物体。
但现在，AI 技术的发展已经远比他预期的快得多。导致的后果就是，人类如今只是 3 岁孩童，但 AI 却已经长成了成年人。
Hinton 表示，这就像工业革命一样。
在工业革命中，人类的体力不重要了，因为机器更强大——如果你想挖一条沟，用机器就可以了。
如今的 AI，已经在取代人类智能。最前沿的不再是普通的人类智能，而是机器。
狄更斯式的变化
「现在我们拥有的东西正在取代人类的智能。普通的人类智能将不再是前沿，而是机器将成为前沿。」
Hinton 预测，AI 将极大地改变普通人的生活，就像查尔斯·狄更斯所记载的工业革命一样。
而 AI 将如何走向，很大程度上取决于我们的政治制度会如同利用这项技术。
而 Hinton 担心的是，尽管 AI 会带来生产力的大幅提高，但所有好处都会流向富人，很多人会因为失业而变得更加贫穷，最终这对社会就是不利的。
在工业革命中，机器没有机会仅仅因为自己更强大而取代人类，因为我们有智能，所以事情仍在掌控之中。
但现在，情况已经不同了，AI 很可能会掌握一切。
而对领域内其他知识渊博的专家对 AI 未来的乐观看法，Hinton 表示，希望他们是正确的。
政府必须监管
然而，Hinton 补充道：我担心，这只看不见的手无法保证我们的安全。如果仅仅依靠大公司追逐利润的动力，并不足以确保他们安全地开发这些技术。
唯一能迫使这些大公司在安全方面进行更多研究的，就是政府监管。
Hinton 呼吁，政府必须在这方面担起责任。
此前 Hinton 就表示，自己痛悔向世界介绍 AI。
「后悔有两种。有时候，你会因为做了一些你知道不应该做的事情而感到内疚、后悔；还有一种，是你在同样情况下还会做一样的选择，但最终结果可能并不好。」
「我的后悔属于第二种。在同样的情况下，我会再次做同样的事情，但我担心这样做的后果，就是比我们更智能的系统最终会占据控制权。」
毕竟此前，我们从未经历过拥有比我们更聪明的东西，是什么感觉。
纳德拉：OpenAI 已成为巨头
在与知名投资人 Bill Gurley 和 Brad Gerstner 深度对话中，纳德拉分享了自己对 OpenAI 独到的见解。
他表示，「从某种意义上，OpenAI 就是这个时代的谷歌、微软或 Meta」。
这番话暗示着，OpenAI 可能会像这些科技巨头定义了此前几代计算技术一样，塑造了 AI 领域的格局。
显而易见的是，微软与 OpenAI 的早期合作，为其在 AI 竞赛中带来的巨大的优势。
纳德拉称，「我们基本上获得了两年的领跑期，不过这样领先优势可能不会再出现了」。
这种战略合作已经开始显现成效，包括 Shopify、Stripe 和 Spotify 等大型云客户，已经从 AWS 或谷歌转战微软阵营。
而 OpenAI 本身，也早已成为了微软云服务的重要客户。
AI 无限复制，取代人类在即
o3 发布之后，Quora 联创 Adam D'Angelo 曾表示，「令人疯狂的是，o3 的测试结果已经公开了，但市场仍然没有将 AGI 的可能性计入定价之中」。
对此，马斯克回应道，「市场声称会向前看，但实际上只是关注过去。AI 最终会让金钱变得毫无意义」。
马斯克的这句话在全网掀起了巨大风暴。AGI 时代，金钱真的不再重要了吗？
最近，AI 圈大佬 Rudolf 发表了一篇文章对此做出了回应：
默认情况下，AGI 之后，资本比以往任何时候都重要。
文章中，他提出了几个重要的观点：AI 取代人类劳动力，将从根本上改变生产关系，同时现有的权力结构将更加稳固。
许多人对这个帖子的理解出现了偏差：
(a) 将「资本」仅理解为「金钱」，而不包括工厂和数据中心等实物资本
(b) 主要关注人与人之间的差距，而不是更广泛的社会问题，如人类的整体地位、社会变革的可能性和人类能动性
业内著名 AI 咨询师 Luke Hornof 总结道，「当能替代人类劳动的 AI 出现后，拥有资本的人将获得永久性优势。
这是因为资金将能更有效地购买成果，由于 AI 可以被复制，且不像人类具有复杂的偏好，这将导致权力进一步集中在资本持有者手中。
同时，人类劳动力将失去其价值和影响力，削弱人们影响国家的能力和实现卓越成就的可能性」。
一起来看看这篇文章具体讲了什么。
首先，需要明确两个概念：劳动，是指人类为创造价值而付出的体力和脑力努力；资本，是指人类建造的用于生产商品和服务的东西，比如工厂、数据中心、软件等等。
作者表示，文中提到的「资本」（capital）用来指资本货物存量，以及用来购买资本品的货币。另外，提到的「资金」（money），专指金钱本身。
AI 的核心经济效应在于，它使「资本」成为越来越普遍的劳动力替代品。
后果就是，支付人类劳动时间的需求将大幅减少，因为运行软件的数据中心直接可以替代人类的脑力劳动！
而这个数据中心的规模，仍在不断扩大。马斯克的 20 万块超算已经在紧锣密鼓建设中了。
xAI 研究员 Guodong Zhang 表示，自己在半年前参观时还是空的，再看现在，简直太酷了！
足见，世界数据中心规模只会越来越大，不断推向取代人类劳动力的极限。
重金招募顶尖人才
随着 AI 逐渐取代人类，如何雇佣最合适人才的深层问题，就迎刃而解了。
对于企业来说，可能无法去判断 AI 的才能。即便是一些领先的 AI 评估生态系统，也可能难以正确评判。
但真正的区别在于，AI 可以被克隆。
目前，大量资金往往追逐，少数取得突破性成果的明星研究员。他们的才能得到了资本市场的认可，最重要的是，他们的能力是不可被复制的。
但如果顶尖研究员是 AI，将从根本上改变了游戏规则。
这意味着，未来每个人，或者至少是那些有足够资金购买 GPU 的人，都能获得这个 AI 明星研究员。
这就是为什么，一旦我们拥有能替代劳动力的 AI，金钱就能更容易找到顶尖人才的主要原因。
当然，人才的价格也会大幅下降，因为 AI 比同等水平的人类劳动力更便宜。再加上 AI 可以被克隆，市场的竞争会更加激烈。
另外，将资金转化为人才的最后一个重大瓶颈是：许多顶尖人才都有复杂的个人偏好。
顶尖艺术家对自己的艺术愿景有着真诚的执着；顶尖数学家对优雅和美有着深深的热爱。
相比之下，AI 的存在就是为了能够被轻易地收买（至少在其安全训练的范围内）。
从 2024 年这个时间点回望，AI 发展轨迹确实远超所有人的想象。
这一刻，也许是我们驻足思考的最佳时机：当 AI 真正超越人类，我们该何去何从？
参考资料：
https://www.telegraph.co.uk/news/2024/12/27/godfather-of-ai-says-it-could-drive-humans-extinct-10-years/
https://x.com/kimmonismus/status/1873462709091443113
https://the-decoder.com/microsoft-ceo-satya-nadella-sees-openai-as-the-google-microsoft-or-meta-of-this-era/
https://x.com/jam3scampbell/status/1873229165388050627
