7 月 18 日消息，埃隆·马斯克（Elon Musk）设想的未来愿景中，人们可以通过其人工智能模型 Grok 在X平台获取新闻资讯。然而，这一愿景最近面临现实的挑战，暴露出当前人工智能技术的局限。
在美国前总统唐纳德·特朗普（Donald Trump）遭暗杀未遂事件的敏感时刻，Grok 迅速生成了多条误导性头条，引发关注。其中一条错误报道声称副总统卡玛拉·哈里斯（Kamala Harris）被枪击，这一错误可能源于X平台上用户对之前事件的讽刺性评论，那次事件中拜登总统曾将特朗普的名字与哈里斯混淆。
另一条由 Grok 生成的新闻摘要错误地指认了枪手，并错误地将其与极左派网络 antifa 联系起来。官方后来公布了嫌疑人的真实姓名，并尚未确定其动机。
Grok 的内容实质上将网络笑话、谣言及误解转化为了平台上的新闻报道。虽然每则新闻摘要下方都附有免责声明：“本文为X平台帖子的总结，内容或随时间推移而变动。Grok 可能会犯错误，请自行验证其输出。”
马斯克一直在推广他的社交媒体平台X，并利用 Grok 的 AI 能力，基于数亿用户的帖子自动生成新闻头条和摘要。他曾多次批评传统新闻媒体效率低下并不可靠，并鼓励X用户定期查看 Grok 获取新闻。
马斯克在一次广告业会议上说：“我们在X平台上的做法是聚合。我们利用 AI 技术综合数百万用户的智慧输入，我坚信这将成为新闻传播的新模式。”
对于 Grok 标题的准确性问题，X平台尚未作出回应。
Grok 是马斯克旗下人工智能公司 xAI 的产品，从去年开始研发并逐步推出新功能，包括为X平台用户提供聊天机器人服务。
Grok 在一些新闻总结中展示了其准确性，显示出该技术的潜力。马斯克称，Grok 能实时接入X上的帖子是一大优势，它被视为“略带幽默感的人工智能搜索助手”。
然而，最近的错误也显示出，当这种倾向幽默的模型试图实时处理各种来源的海量帖子时，可能存在的弱点。
Facebook 前公共政策主管凯蒂·哈巴思（Katie Harbath）指出，尽管有所进步，但处理如枪击这样的突发新闻时，仍需人类的参与，以提供必要的背景和事实核查。
经验丰富的记者也可能在处理突发事件时犯错，但 Grok 的失误超出了常见的混乱范畴。
另一起 Grok 引发的误解案例正浮出水面，其标题是：“《小鬼当家2》演员在特朗普集会上遭遇枪击？”这一说法实则源于电影《小鬼当家2》中特朗普的短暂客串，以及X上用户间对该影片的讨论。遗憾的是，Grok 在生成此标题时，未澄清所谓的“演员”是否即指特朗普本人。
生成式人工智能工具在追求效率和创新时，准确性常常受到挑战。例如，谷歌最近修正了其 AI 功能，在某些情况下产生了不合逻辑的结果，如建议用胶水使披萨上的奶酪固定。
面对这些挑战，一些公司选择了与马斯克不同的路线，没有将其产品定位为实时新闻工具。例如，OpenAI 的 ChatGPT 在回应有关特朗普袭击事件的查询时，提供了事件概要并链接到了 PolitiFact 等事实核查网站，同时明确表示自己“不是实时新闻产品”。
与此同时，Meta 平台的高管表示，他们不打算在其 Threads 平台上推广政治内容，以避免政治和硬新闻带来的负面影响。
上周末，有用户抱怨 Threads 平台在报道枪击事件方面比X慢，显示出X在新闻传播方面的优势。
据《华尔街日报》获得的一封内部邮件显示，X的首席执行官琳达·亚卡里诺（Linda Yaccarino）在周日向全体员工发出指示，称这次未遂暗杀事件为“重大事件”，并承诺优先处理违反平台规则的帖子，如赞扬袭击行为的内容。
值得注意的是，Grok 在总结新闻事件时的挑战并非首次出现。在今年 6 月的总统辩论后，由于误解了关于加州州长加文·纽森（Gavin Newsom）的讨论，Grok 生成了“纽森在辩论中胜出”的错误标题。实际上纽森并未参加辩论，只是出席了该活动。
此前，Twitter 有一个专门团队负责手动编写热门话题摘要。但 Twitter 前高管埃文·汉森（Evan Hansen）透露，在马斯克接管后的大规模裁员中，这个团队被解散了。
汉森还说，马斯克接管前 Twitter 已开始尝试用 AI 编写摘要，但仍需要人工审核内容。他指出：“AI 能发挥作用，但必须非常小心地处理，才能确保内容的质量和准确性。”（小小）
