倒计时!奥特曼罕见长文预言:ASI几年内降临,人类奇点将至

  新智元报道

  编辑:编辑部 HYZ

  就在刚刚,奥特曼罕见发表长文,预言 ASI 将在「几千天内」降临!他肯定,深度学习已经奏效了,它能够真正学习任何数据的分布模式。如今人类奇点已经近在咫尺,我们眼看着就要迈进 ASI 的大门!

  就在刚刚,Sam Altman 罕见发表一篇名为「智能时代」的长文博客,暗示超级人工智能(ASI)可能在「几千天内」实现。

  一千天大约相当于 2.7 年,这比此前大多数专家预测的五年时间,可能要早得多。

  显然,奥特曼对于 AI 驱动的未来具有良好的愿景,比大多数人都更笃信 AI 发展的速度。

  在他看来,「深度学习是卓有成效的」。

  我们可以根据其训练数据,泛化一系列领域和困难问题集,从而能够「搞定各种难题」,比如「解决气候问题、建立太空基地、揭示所有物理学奥秘」等等。

这就像是人类发现一种算法,它能够真正学习任何数据的分布模式,或者说,产生任何数据分布底层「规则」。令人震惊的是,随着算力、数据增加,深度学习帮助人类解决难题方面的能力,就会变得越强。我发现,无论我花费多少时间来思考这个问题,我都无法真正理解它的重要性。

  奥特曼大胆预言:超级智能几千天内到达

  在去年 12 月,OpenAI 曾发表过这样一篇论文,将超级智能定义为「比人类聪明得多的人工智能」。

  论文地址:https://cdn.openai.com/papers/weak-to-strong-generalization.pdf

  仅仅过了一年,奥特曼就已经对此有了更为乐观的预期。

这可能会成为迄今为止人类历史上最具深远影响的事实。我们有可能在短短几年(几千天)内就开发出超越人类的人工智能!虽然可能需要更长时间,但我坚信我们终将实现这一目标。

  网友们很快抓住全文重点——深度学习,有用!

  也有网友表示,几千天快则 3 年,慢则 10 年。「我走过最长的路,就是奥特曼的套路。」

  而其他 AI 大佬对超级人工智能出现的时间,也有类似的预测。

  6 月份出走创业的 Ilya Sutskever,初创公司名为 Safe Superintelligence(SSI)。当时他的声明是:「超级智能触手可及」。

  不过,Ilya 并没有给出具体的时间线。

  同 Ilya 一样,软银 CEO 孙正义也相信超级智能。

  他曾表示,AI「将在 10 年内比人类聪明一万倍」。并且声称,实现 ASI 现在是他的人生使命。

  Hinton 相信,我们会在五年内看到 AGI。

  谷歌首席研究员 Ray Kurzweil 预测,AGI 将在 2029 年到来。

  总的来说,相当多专家相信,ASI 或 AGI 将在五年内实现。

  当然,也有对此泼冷水的人。

  NYU 教授马库斯就表示,如果我们继续深度学习和语言模型的路线,将永远无法实现 AGI,更遑论 ASI 了。

  因为这些技术存在缺陷,相对薄弱,只有通过更多的数据和算力,才能取得进步。

  华盛顿大学计算机科学教授、《终极算法》作者 Pedro Domingos 也认为,ASI 只是一个白日梦。

  AI 比人类更聪明了吗?

  最近,在一项标准化门萨智商测试中,AI 模型首次显著超过了人类智商的中位数——100。

  位于峰值的,就是智商得分为 120 的 OpenAI o1。

  这是否意味着 AI 已经超越了大多数人类的智商?

  令人遗憾的是,进行测试的记者 Maxim Lott 随后创建了一个自定义智商测试,试题不包含任何训练数据。这次,OpenAI o1 离线智商测试的结果是,IQ 为 95。

  当然,这个分数仍然击败了 37% 的成年人。

  考虑到这一年来 AI 进步的飞速,奥特曼的推测,不无道理。

  乌云下的阴影

  当然,奥特曼也承认,我们离 AI 被广泛使用的世界还有几个障碍,比如需要先进芯片,和降低计算成本。

  他甚至暗示,如果不建设基础设施来支持 AI 的发展,「AI 能将成为一种非常有限的资源,引发战争,主要变成富人的工具。」

  奥特曼也提到了因 AI 导致的失业问题,这是科技泡沫外的许多人,对 AI 最大的恐惧。

  他只能说:AI 影响下的劳动力将发生好的和坏的变化,但人们永远不会无事可做。

这不会是一个十全十美的故事,但其潜在的巨大好处让我们不得不为了自己和未来的利益,想方设法去应对眼前的风险。

  但有网友猜测,这篇文章或许只是 OpenAI 获得下一轮融资的方式。

  很快,OpenAI 就会获得6-6.5 亿美元的融资,而估值也将到达 1500 亿。

  有趣的是,奥特曼选择在自己个人网站而非 OpenAI 官网上发布这一消息,或许这表明此文更像是他的个人观点,并非公司的官方路线。

  马库斯则针对奥特曼的文章进行了「红字攻击」,将其称为一篇「营销文」,而非有科学论据的文章。

  The Intelligence Age:智能时代

  在接下来的几十年里,我们将能做到在我们祖辈看来,如同魔法般的事情。

  这种现象并非是新鲜事物,但它将会加速发展。随着时间的推移,人类的能力不断提升;我们现在已经能够完成我们的前人认为不可能完成的事情。

  我们之所以变得更有能力,并非源于基因进化,而是受益于社会基础设施,这远比我们任何一个人更聪明、更有能力。

  从某种重要意义上说,社会本身就是一种高级智能的体现。

  我们的祖父母——以及他们之前的几代人——创造并实现了伟大的事业。他们为人类的进步搭建了一座坚实的阶梯,而我们从中受益。

  AI 将为人们提供解决难题的工具,帮助我们在这座进步阶梯上,添加新的支柱,这些都是我们靠自己无法想象出来的。

  进步的故事还将继续,我们的下一代必将能够完成我们当前无法企及的事业。

  虽然这不会一蹴而就,但我们很快就能与 AI 协作,完成比没有 AI 时多得多的事情。

  最终,每个人都可以拥有一个私人 AI 团队,由各领域的虚拟专家团队组成,共同帮助我们实现各种想象。

  我们的孩子将拥有 AI 辅导老师,可以用任何语言,以任何速度,提供任何学科的个性化教学。我们可以想象类似的理念应用于更优质的医疗服务、开发各种软件等等。

  有了这些新的技术能力,我们可以实现在今天看来不可思议的共同富裕。

  在未来,所有人的生活水平都可能超越当今任何人所能达到的高度。仅仅是物质富裕并不一定能让人快乐——世上不乏痛苦的富人——但它确实能显著提高全世界人民的生活质量。

  这是一种看待人类历史的独特角度:经过数千年科学发现和技术进步的不断积累,我们已经掌握了如何熔炼沙子,添加一些杂质,在极其微小的尺度上以惊人的精密度将其排列成计算机芯片,通电,最终得到能够创造越来越强大 AI 的系统。

  这可能会成为迄今为止,人类历史上最具深远影响的事实。

  我们有可能在短短几年(几千天)内就开发出超越人类的人工智能!虽然可能需要更长时间,但我坚信我们终将实现这一目标。

  深度学习效果拔群

  我们进入下一次超级智能时代的钥匙是什么?

  Altman 用三个字总结:deep learning worked。(深度学习成功了)

  再用 15 个词来概括:deep learning worked, got predictably better with scale, and we dedicated increasing resources to it。(深度学习成功了,随着规模扩大而预测能力变得更好,我们投入了越来越多的资源)

  这就像是人类发现一种算法,能够真正学习任何数据分布模式,或者说,产生任何数据分布底层「规则」。

  令人震惊的是,随着算力、数据增加,深度学习帮助人类解决难题方面的能力,就会变得越强。

  我发现,无论我花费多少时间来思考这个问题,都无法真正理解它的重要性。

  我们仍还有许多细节需要解决,但如果被某个特定挑战,而分散注意力是不明智的。深度学习卓有成效,我们终将解决剩下的问题。

  关于未来可能发生的事情,我们有很多可以讨论的,但最主要的一点是:AI 将随着规模的扩大而不断进步,这将为全球人类生活带来实质性的改善。

  AI 模型即将成为我们的自主个人助理,能够代表我们执行特定任务,例如为你协调医疗服务。

  在不久的将来,AI 系统将变得更加强大,不仅能开发出更优秀的下一代系统,还能在各个科学领域取得突破性进展。

  科技的发展推动人类社会从石器时代迈入农业时代,继而跨入工业时代。

  如今,我们正站在新的起点上,通往智能时代的道路就在眼前,而算力、能源和人类的坚定意志,正是铺就这条道路的三大基石。

  要想让更多人用上 AI,我们就必须想方设法降低计算成本,让计算资源变得唾手可得(这需要海量的能源和芯片)。

  如果我们不努力建设足够的基础设施,AI 就会变成稀缺资源,甚至可能引发战争,最终沦为少数富人的工具。

  我们必须谨慎但坚定地采取行动。AI 时代的到来是一个具有里程碑意义的发展,面临着极其复杂且风险巨大的挑战。

  虽然这不会是一个十全十美的故事,但其潜在的巨大好处让我们不得不为了自己和未来的利益,想方设法去应对眼前的风险。

  我坚信,未来将会无比光明,现在任何人都难以用文字准确描绘它的模样;AI 时代的一大显著特征就是会带来空前的繁荣昌盛。

  尽管这将是渐进的过程,但诸如「解决气候问题、建立太空基地、揭示所有物理学奥秘」这类令人惊叹的成果,最终将变得司空见惯。

  有了近乎无限的智能和丰富的能源,我们将拥有产生伟大想法,以及实现这些想法的能力。

  正如我们在其他技术中所看到的那样,AI 也会有缺点,我们需要从现在开始努力,以最大限度地发挥 AI 的优势,同时将其负面影响降到最低。

  比如说,我们预计这项技术在未来几年可能会对就业市场造成重大变化(既有好的,也有坏的),但大多数工作岗位的变化速度会比大多数人想象的要慢,我并不担心我们会无事可做(即使这些事情在今天看来可能不像「真正的工作」)。

  人类有一种与生俱来的创造欲,以及互帮互助的愿望,AI 将让我们以前所未有的方式增强自身能力。作为一个社会,我们将重新进入一个不断发展的世界,我们可以再次专注于进行正和博弈。

  我们今天所做的许多工作在几百年前的人看来可能只是无关紧要的,但现在没有人回顾过去,希望自己是个点灯人。

  如果一个点灯人能看到今天的世界,他会觉得周围的繁荣简直难以想象。

  同样,如果我们能够从今天快进一百年,我们也会对周围的繁荣感到同样无法想象。

  参考资料:

  https://ia.samaltman.com/