梦晨发自凹非寺
量子位公众号 QbitAI
马斯克旗下 xAI 大模型,出二代了!
Grok-2测试版发布,小杯 Grok-2 mini 已经在平台在线可玩。
马斯克还以谜语人的形式,揭晓了困扰大模型圈一个多月的秘密:
原来 Lmsys 大模型竞技场上的神秘匿名模型sus-column-r,真身就是 Grok-2。
sus-column-r 在排行榜上积累了 1 万多人类投票,已经与 GPT-4o 的 API 版并列第三。
在 xAI 自己的内部测试中,Grok-2 在常识(MMLU、MMLU-Pro)、数学竞赛问题(MATH)、研究生水平科学知识(GPQA)等领域与其他前沿模型相媲美。
另外 Grok-2 最擅长基于视觉的任务,在视觉数学推理(MathVista)达到 SOTA。
不过这个图的排版可就有点心机在里面了:把分数最高的 GPT-4o、Claude-3.5-Sonnet 放得离自己远一些。
光看分数还是抽象,下面就进入一手实测环节。
一手实测 Grok-2
如果你是/推特平台付费用户,可以直接进入 Grok 频道试玩。不花钱的话也可以到 Lmsys 大模型竞技场选择 sus-column-r 试玩。
而且付费用户反倒只能玩到小杯 mini 版,免费用户能玩大杯,也是很厚到了。
由于 Grok-2 可以访问上的实时数据,可以直接让他总结当天的新闻,开启趣味模式的话还可以附赠吐槽。
付费版本还接入了最新开源 AI 生图模型 Flux.1,会把中文提示词翻译成英文理解。
点进主页上的“安利一个奇幻游戏”问题示例,可以看到它先推荐了《博德之门3》,并从剧情、人物自定义、游戏机制、世界塑造、幽默元素和玩家社区几个角度做点评,很好的把握了游戏的亮点。
此时可以直接换中文继续提问。
Grok-2 同样了解《黑神话:悟空》这款还没发售的游戏,准确说出发售日期在 8 月 20 日、使用的虚幻 5 引擎,并且总结了上网友的讨论。
还在最后附带了网友的帖子,可以点进去参与讨论,与整个平台的功能整合已经到位了。
不过由于上只有 mini 版模型,接下来上强度测试我们移步大模型竞技场,还可以与 GPT-4o 来一场捉对 pk。
在最近流行的智商检测问题“9.9 和 9.11 哪个大”上,Grok-2(sus-column-r)表现碾压 ChatGPT 最新版本。
不过另一项流行测试“strawberry 中有几个r”问题上,两者都还是没能通过。(多试几次两者都有小概率答对)。
更严肃一些的陷阱题“以下哪支蜡烛是最先被吹灭的”中,Grok-2 比 ChatGPT 稍有进步。
考点是最先被吹灭的蜡烛剩下的部分更长(正确答案3),ChatGPT 错误的理解成最短的,Grok-2 思路是对的但是数哪个最长没数对。
对于经典的大模型弱点“逆转诅咒”问题,两者似乎都以某种方式克服了。不仅能正着回答“汤姆克鲁斯的母亲是谁”,也能倒过来回答数据出现频率更少的“Mary Lee Pfeiffer 的儿子是汤姆克鲁斯”。
(当然不排除只是成为经典问题之后,相关数据更多了。)
马斯克大模型升级,牺牲特斯拉换的
测试先告一段落,可以看出 Grok-2 对比上一代 Grok-1.5 有了很大进步。
背后马斯克可是,花费了大量资源和人力。
比如有新加入 xAI 的研究员表示,能用10 万卡集群做研究,比起在学校里可怜的资源爽太多了。
但是有一群人可不满意了:特斯拉股东。
根据华尔街日报消息,马斯克持续把人才、数据和 GPU 资源从特斯拉向 xAI 转移。
目前为止,xAI 已经雇佣了至少 11 名曾在特斯拉工作过的员工,其中六名直接在 Autopilot 团队工作过。
原本为特斯拉保留的 GPU 订单,马斯克也要求英伟达优先供应 xAI。
马斯克还公开谈论了特斯拉收集的大量视觉数据,他表示这些数据可以作为训练 xAI 模型的资源。
至少三位特斯拉股东因为这事把马斯克给告了,声称将资源转移到 xAI 损害了特斯拉投资者的利益。
目前案件正在特拉华州法院审理。