马斯克狂烧14万亿,5000万H100算力五年上线!终极爆冲数十亿

  新智元报道

  编辑:艾伦桃子

  马斯克宣布了一个疯狂的计划,将在 5 年内实现 5000 万张 H100 的算力,这是什么概念?这将为人类带来怎样的影响?ASI 能否在勇敢者的孤注一掷下现身?

  世界首富马斯克,这次宣布决定 All in AI 了。

  5 年内实现 5000 万张 H100 的算力。

  要知道,他已经有了全世界最强的 Colossus 超算集群,AI 算力等价于约 20 万张 H100。

  他究竟想用这么多 GPU 做些什么呢?

  十万亿元能创造出怎样的奇迹

  目前,每张 H100 的批发价高达 2 万美元。

  5000 万张 H100,光是 GPU,成本就将高达 1 万亿美元。

  要搭建目前的最先进的超算集群,目前 GPU 成本只占约 50%。

  也就是说,最终的成本将超过 2 万亿美元(逾 14 万亿元人民币)。

  2 万亿美元是什么概念?

  美国去年的军费总支出约 9970 亿美元,而这已经占到了全球军费支出的 37%。

  这意味着,AI 已经成为与传统的军备竞赛分庭抗礼的全新关键领域。

  马斯克的身价约 4000 亿美元。

  特斯拉的市值约 1.1 万亿美元。

  加上 SpaceX、X和 xAI,马斯克旗下的公司市值约 1.6 万亿美元。

  一旦摩尔定律在未来 5 年不能在 GPU 上有效,成本将无法产生指数下降。

  马斯克是在拉上自己和全体股东的全部身家,All in AI,再造一个属于近未来时代的特斯拉。

  此外,电力供应更是一个大问题。

  这个预想中的超算集群将可能需要十几个核电站供应电力。

  但马斯克觉得还不够。

  他的野心是,拥有数十亿张 H100 算力的 AI 超级计算集群。

  规模再扩大百倍。

  马斯克的技术乐观主义为天文数字加上了对数。

  Grok 已经很强,但还远远不够

  马斯克究竟想用这么多 GPU 做些什么呢?

  不管是 xAI 和特斯拉训练模型,还是 Neuralink 和 SpaceX 在硬科技领域获得突破,都需要海量的算力。

  为此,马斯克搭建了全球最强的超算集群 Colossus。

  最初上线,它用了 10 万块 H100,仅在 19 天极限时间中完成了搭建。

  随后,又扩展到了 20 万张 GPU。

  众所周知,Grok 3 就是在 20 万张 GPU 中训练而来,算力是 Grok 2 的十倍。

  Grok 2 当时是在 1.5 万块 GPU 上训练。

  直到上个月,最强 Grok 4 问世再次刷榜,让所有人见识了超强算力下 LLM 的强大实力。

  不仅力夺所有榜一,还在 HLE 测试中碾压人类博士。

  发布会上,马斯克还曾预告,接下来几个月的「彩蛋」。

  8 月发布编码模型;9 月上线多模态智能体;10 月亮相视频生成模型。

  仅在训练下一代模型这块,就成为了算力的「无底洞」。

  再加上,xAI 聊天机器人的产品策略,如 AI 女友 Ani 上线,一度吸引了众多用户。

  Grok Ani 立绘

  若没有强大算力支撑,xAI 便无法扩展更多应用。

  有了最强的 Colossus 一代,还不够。

  马斯克还要用天文数字般的算力,让对手望而却步。

  毕竟,他曾豪言,「未来谷歌也不是自己的对手」。

  Colossus 二代,便承载着这样宏大的使命,在万众瞩目中应运而生。

  Colossus 二代,正在建了

  目前,Colossus 2,已经在分批逐步落地中。

  超算中心预计首批上线 55 万块 GB200 和 GB300,全部采用液冷设计,专为 AI 训练打造。

  用马斯克的话来说,Colossus 2 将成为「世界首个千兆万级+的 AI 训练超算」。

  上个月,他曾发布了关于超算中心 GB200 的布线,密集度可谓相当壮观。

  早在今年 2 月,xAI 便在美国田纳西州孟菲斯 Tulane Road,购入了约 100 万平方英尺的园区,用作二期基地。

  与初代(156 个)类似,Colossus 2 也将由特斯拉 Megapack 供电,这次数量增加到了 208 台。

  不仅如此,马斯克还计划从海外迁移一座发电厂,为其供电。

  Colossus 2 的供电会采取多元化措施:包含新建或改建变电站、储能、外部电源迁移等。

  星际之门还遥遥无期,若 Colossus 2 能延续初代搭建传奇,一定再次创造世界纪录!

  英伟达老黄曾不止一次夸赞,马斯克对工程系统的极致理解

  参考资料:

  https://x.com/elonmusk/status/1947704195844608094

  https://x.com/elonmusk/status/1959383653256962378

  https://x.com/xAIMemphis/status/1947724711968051414

  https://x.com/elonmusk/status/1947701807389515912

  https://x.com/teslaownersSV/status/1924684020107116709