2 月 23 日消息，随着人工智能聊天工具 ChatGPT 持续火爆，诸如谷歌和微软等提供搜索业务的公司已经开始在搜索界面中整合人工智能聊天机器人功能。但对于这些科技巨头来说，这种聊天机器人风格的搜索引擎会让运营成本增加 10 倍，带来高达几十亿美元的支出。
整个科技行业的高管们都在讨论运营像 ChatGPT 这种人工智能的高昂费用。OpenAI 公司首席执行官萨姆·奥特曼（Sam Altman）曾在推特上说，ChatGPT 每次和用户对话的计算成本高达几美分或更多，“让人难以忍受”。
谷歌母公司 Alphabet 董事长约翰·汉尼斯（John Hennessy)在接受采访时表示，尽管微调有助于迅速降低成本，但“与大型语言模型等人工智能交换信息的成本可能是完成标准关键字搜索功能的 10 倍以上”。
2022 年 Alphabet 净利润接近 600 亿美元。分析师们表示，即使基于聊天机器人的搜索业务有广告收入，这项技术也可能对 Alphabet 的利润产生不利影响，并带来几十亿美元的额外成本。
投行摩根士丹利估计，谷歌去年 3.3 万亿次搜索查询的成本约为每条 0.55 美分，根据人工智能要生成的文本量，这个数字只会多不会少。分析师预计，如果“类似 ChatGPT 的人工智能聊天机器人能够用 50 个字的答案处理只有当今搜索一半的查询量”，那么到 2024 年，谷歌每年成本就要增加 60 亿美元。
其他分析师也有类似看法。专注于芯片技术的研究和咨询公司 SemiAnalysis 表示，考虑到谷歌新推出的张量处理单元(Tensor Processing Units)以及其他优化措施，在搜索中添加 ChatGPT 风格的人工智能可能会让 Alphabet 多花 30 亿美元。
这种人工智能比传统搜索引擎更昂贵的原因是所涉及的计算能力更高。分析人士表示，这种人工智能依赖于造价几十亿美元的芯片，相应成本需要分摊到几年的使用寿命中。所消耗的电力同样会增加企业运营成本和碳排放指标方面的压力。
处理人工智能搜索查询的过程被称为“推理”，每次搜索时启动模仿人脑的巨大神经网络，生成一堆文本，可能还会查询大型搜索索引信息来获取事实信息。
Alphabet 的汉尼斯表示，“你必须降低推理成本，”他称“最坏情况下需要几年时间”。
尽管运营费用高昂，Alphabet 仍需要考虑如何应对来自其他科技公司的挑战。本月早些时候，竞争对手微软展示了如何将人工智能聊天机器人嵌入必应搜索引擎的计划。据 Similarweb 估计，微软高管们瞄准的是谷歌高达 91% 的搜索市场份额。
微软首席财务官阿米·胡德(Amy Hood)告诉分析师，随着改进后的必应上线，用户数量增加和广告收入带来的好处已经超过了成本。胡德表示，“对我们来说，即使以我们正在讨论的服务成本计算，毛利率也是增加的。”
谷歌另一个竞争对手、搜索引擎 You.com 首席执行官理查德·索切尔（Richard Socher）表示，添加人工智能聊天体验以及图表、视频和其他生成技术应用程序将增加 30% 到 50% 的运营费用。但他说，“随着时间的推移，技术会变得越来越便宜。”
一位接近谷歌的消息人士提醒说，现在确定聊天机器人的具体成本还为时过早，因为运行效率和使用情况会因为所涉及的技术有很大差异，而且搜索产品早就用人工智能提供技术支持。
埃森哲首席技术官保罗·多尔蒂(Paul Daugherty)说，尽管如此，拥有几十亿用户的搜索巨头之所以没有立即推出人工智能聊天机器人，考虑成本是两个主要原因之一。
他说：“一是准确性，二是你必须以正确的方式扩大规模。”
多年来，Alphabet 和其他公司的研究人员一直在研究如何以更低成本训练和运行大型语言模型。
更大模型通常需要更多的芯片进行推理，因此运行成本更高。能让消费者趋之若鹜的人工智能背后模型规模相当庞大，比如说 ChatGPT 背后的模型就有 1750 亿个参数，每次运行的成本也会随用户查询的长度而不断变化。
一位资深科技高管表示，要让几百万消费者使用这种人工智能，目前成本仍然过高。这位不愿透露姓名的高管表示：“这些模型非常昂贵，因此下一阶段的进步将降低训练这些模型和推理的成本，这样就可以在每个应用程序中使用它。”
一位知情人士说，目前 OpenAI 的计算机科学家已经想出如何通过复杂代码来优化推理成本，从而提高芯片运行效率。
一个长期存在的问题是，如何在不影响准确性的情况下，将人工智能模型中的参数量减少 10 倍甚至 100 倍。
“如何最有效地剔除(参数)，仍然是一个悬而未决的问题，”曾负责英特尔人工智能芯片项目的纳文·拉奥(Naveen Rao)说。
与此同时，一些公司考虑付费使用人工智能搜索，比如 OpenAI 的升级版 ChatGPT 服务每月收取 20 美元的订阅费用。技术专家还表示，一种变通方法是将更小的人工智能模型应用于更简单的任务，Alphabet 正在探索这一方法。
Alphabet 本月表示，“较小版”的 LaMDA 人工智能模型将为聊天机器人巴德提供动力，“所需的计算能力大大降低，使我们能够扩展到更多用户。”
在上周一次会议上，当被问及 ChatGPT 和巴德等聊天机器人时，汉尼斯表示，更有针对性的模型而不是无所不能的系统才有助于“降低成本”。
