新智元报道
编辑：LRS
2024 年，企业对 AI 的投资激增至 138 亿美元，显示了行业从实验到实际应用的转变，AI 技术正逐渐渗透到各行业核心，推动效率和创新。同时，企业在 AI 应用上趋向于采用多模型策略，且越来越重视自主智能体技术。
2024 即将结束，今年依然是 AI 发展突飞猛进的一年，市场前景也变得更加清晰。
最近，风投公司 Menlo Ventures 的三位合伙人和投资者发布了一报告，调查了 600 名美国企业 IT 决策者，全面揭示了 AI 产业的现状。
作者列表：Tim Tully， Joff Redfern, Derek Xiao
报告链接：https://menlovc.com/2024-the-state-of-generative-ai-in-the-enterprise/
2023 年报告：https://menlovc.com/2023-the-state-of-generative-ai-in-the-enterprise-report/
总的来说，2024 年的人工智能投资激增至 138 亿美元，是 2023 年 23 亿美元的六倍多，表明企业正在从实验阶段转向执行阶段，切实地将人工智能嵌入到核心商业战略中。
支出的激增也反映了组织的乐观情绪：72% 的决策者预计在不久的将来会更广泛地采用生成式人工智能工具，而且这些工具已经走入了程序员、医疗保健等专业人员的日常工作中。
尽管前景乐观且投资不断增加，但许多决策者仍不清楚到底什么是对自己企业有利的，超过三分之一的受访者对于如何在其组织中实施生成式人工智能没有明确的愿景。
我们仍处于大规模转型的早期阶段，企业领导者才刚刚开始认识到生成型人工智能将对其组织产生的深远影响。
应用层正在升温
2024 年，大部分 AI 大事件都发生在「应用程序」层，利用 LLMs 跨领域的能力来提升效率。
投资者在全年面向应用层投入 46 亿美元，比去年的 6 亿美元增长了近 8 倍。
在公司侧，企业家的目标也更高了，公司不仅增加了支出，想法也变多了，平均每个企业都确定了 10 个潜在用例，其中近四分之一（24%）被优先考虑在近期实施；只有少数用例在生产中，而其中三分之一仍处于原型设计和评估阶段（33%）。
最有价值的用例
虽然 AI 应用仍然是一片实验场，但部分应用场景下，已经证实了其能够提高生产力和运营效率。
Code Copilots
以 51% 的采用率遥遥领先，也使得开发人员成为了 AI 领域最早的资深用户。
GitHub Copilot 的收入迅速攀升至 3 亿美元，Codeium 和 Cursor 等新兴工具也在快速增长。
除了通用编码助手之外，企业还会购买特定任务的编程助手应用，例如 Harness 的 AI DevOps Engineer、可用于管道生成和测试自动化的 QA 助理，以及类似 All Hands 这样能够执行更多端到端操作的 AI 智能体软件开发。
Support chatbots
企业采用率为 31%，可以为内部员工和外部客户提供可靠、24/7、基于知识的支持，产品包括 Aisera、Decagon 和 Sierra，能够直接与终端客户互动；Observe AI 在通话期间为联络中心座席提供实时指导。
企业搜索/检索+数据提取/转换
采用率分别为 28% 和 27%，企业需要利用上数据孤岛中的宝贵知识。
Glean 和 Sana 等解决方案可连接到电子邮件、即时通讯工具和文档存储，从而实现跨不同系统的统一语义搜索，并提供基于 AI 的知识管理能力。
会议总结
在使用案例中排名第五，采用率为 24%，通过自动化生成笔记和要点来节省时间并提高生产力。
产品包括 Fireflies.ai、Otter.ai 和 Sana 等，能够捕获并总结在线会议；Fathom 从视频中提取关键点；Eleos Health 将这一创新应用于医疗保健，自动化记录时间并直接与 EHR 集成，以便医疗保健提供者可以专注于患者护理。
智能体
当前的实践模式表明，与完全自动化相比，用户更倾向于辅助增强人工流程，但行业目前正在向更加自主、完全自动化的解决方案进行过渡。
现有工具包括金融后台工作流程 Forge、Sema4，以及上市工具 Clay，展现了「完全自主的生成式人工智能系统」能够改变传统上以人类为主导的部门，有望走向未来「服务即软件」（Services-as-Software）的时代。
自研还是买？
两种方案的公司比例几乎持平：47% 的公司选择内部开发，53% 选择供应商。
与 2023 年相比，变化相当明显，当时 80% 的企业仍然依赖第三方生成式人工智能软件，表明现在的企业越来越有信心和能力建立自己的内部 AI 工具。
AI 是一场长期游戏
只有1% 的买家将低价作为主要关注点，现在企业更关注那些能够提供可衡量价值（30%）并具有独特研发背景（26%）的 AI 工具。
不过，虽然价格不是主要考虑因素，但还是有不少买家（26%）低估了 AI 的使用成本，导致 AI 战略失败；数据隐私障碍 (21%) 和过低投资回报 (ROI) (18%) 是次要原因；在技术方面，主要影响因素是模型幻觉（15%）。
在规划和选择阶段主动解决这些潜在陷阱，可以增加成功的可能性。
老牌公司不香了
虽然 64% 的客户仍然更喜欢从老牌供应商那里购买产品，理由是「信任」和「开箱即用」的功能，但趋势已经开始发生变化。
18% 的决策者对现有产品表示失望；40% 的受访者质疑大公司当前的解决方案无法真正满足需求，表明创新型初创公司有很大的机会介入，并提供更贴合用户需求的服务。
AI 生态破圈
除了更大的规模外，生成式 AI 已经开始破圈，企业内各个部门都开始增加了 AI 工具的预算。
不过技术部门仍然占据了最大的支出份额，其中 IT (22%)、产品+工程 (19%) 和数据科学 (8%) ，合计占所有投资的近一半。
剩余预算主要分配给面向客户的职能部门，如支持 (9%)、销售 (8%) 和营销 (7%)、包括人力资源和财务在内的后台团队（各 7%），以及较小的部门，如设计 ( 6%）和法律（3%）。
垂直 AI 应用兴起
第一个生成式人工智能应用是用于文本和图像生成的横向解决方案，但到了 2024 年，越来越多的垂直领域得到扩展。
医疗保健
以 5 亿美元的企业支出引领生成式 AI 应用：Abridge、Ambience、Heidi 和 Eleos Health 等环境抄写器（aimbient scribes）已经成了医生办公室的主要产品；自动化解决方案也在整个临床生命周期中不断涌现，从分类和摄入（Notable ）到编码（SmarterDx、Codametrix），再到收入周期管理（Adonis、Rivet）。
法律
历来最抵制技术的法律行业，其企业人工智能支出也达到 3.5 亿美元，主要用生成式 AI 来管理大量非结构化数据并自动化复杂的、基于模式的工作流程，大致可以分为诉讼法和交易法。
Everlaw 植根于诉讼，专注于法律保留、电子证据开示和审判准备；Harvey 和 Spellbook 则通过合同审查、法律研究和并购解决方案推进交易法。
具体的实践领域也有针对性的人工智能创新：EvenUp 专注于伤害法，Garden 专注于专利和知识产权，Manifest 专注于移民和就业法，Eve 则重新发明（re-invent）从客户接收到解决的原告案件工作。
金融服务
凭借其复杂的数据、严格的法规和关键的工作流程，金融服务的支出也达到了 1 亿美元。
Numeric 和 Klarity 等初创公司正在彻底改变会计行业；Arkifi 和 Rogo 通过先进的数据提取加速金融研究；Arch 正在使用人工智能来扰乱 RIA 和投资基金的后台流程；Orby 和 Sema4 是从对账和报告开始的，提供更广泛的横向解决方案；Greenlite 和 Norm AI 提供实时合规性监控，以跟上不断变化的法规。
媒体和娱乐
从好莱坞的大屏幕到智能手机，生成式 AI 正在重塑媒体和娱乐，支出达 1 亿美元。Runway 已经是工作室级别的工具；Captions 和 Descript 为独立创作者提供了支持；Black Forest Labs、Higgsfield、Ideogram、Midjourney 和 Pika 等平台让普通人也能拥有专业的图像和视频创作能力。
基础设施和现代人工智能堆栈
经过一年的快速发展，AI 技术堆栈也逐渐趋于稳定。
基础模型仍然占主导地位，LLM 层需要 65 亿美元的企业投资。
通过反复试验，企业越来越了解数据脚手架（data scaffold）和复合架构方面的重要性，更重视在生产中可靠地执行，而不仅仅是一次性演示。
LLM 趋势：多模型策略盛行
企业不再依赖单一提供商，而是采用务实的多模型方法。
研究表明，组织通常在其人工智能堆栈中部署三个或更多基础模型，然后根据用例或结果路由到不同模型。
目前 81% 的市场方案为闭源模型，而开源替代方案（以 Meta 的 Llama 3 为首）稳定在 19%，比 2023 年仅下降了 1 个百分点。
在闭源模型中， OpenAI 的先发优势有所削弱，企业市场份额从 50% 下降至 34%，一些企业在选择模型时从 GPT-4 转向 Claude 3.5 Sonnet，主要受益者 Anthropic 的企业占有率从 12% 翻了一番至 24%
当选择新模型时，企业的主要考虑因素包括安全 (46%)、价格 (44%)、性能 (42%) 和扩展功能 (41%) 。
设计模式：RAG，而非微调
企业人工智能设计模式——用于构建高效、可扩展人工智能系统的标准化架构——正在迅速发展。
RAG（检索增强生成）目前以 51% 的采用率占据主导地位，比去年的 31% 大幅上升；而之前常用的微调，尤其是在领先的应用程序提供商中，已经非常少见了，大约只有9% 的生产模型进行了微调。
智能体架构也开始发力，在 12% 的实践场景中提供技术支持。
矢量数据库、ETL 和数据管道：RAG 的基础
为了支持 RAG，企业必须有效地存储和访问相关查询知识。
虽然 Postgres (15%) 和 MongoDB (14%) 等传统数据库仍然很常见，但人工智能原生矢量数据库也开始普及，Pinecone 已占据 18% 的市场份额。
传统 ETL 平台（如 Azure 文档智能）仍占部署的 28%，但 Unstructe 等专用工具（处理 PDF 和 HTML 等文档中非结构化数据）也占据了 16% 的市场份额。
预测
智能体将推动下一波 AI 架构转型
智能体自动化（agentic automation）可以处理复杂的多步骤任务，而这些任务无法被当前专注于「内容生成」和「知识检索」的系统所解决。
Clay 和 Forge 等平台的成功，证明了先进的智能体可以扰乱 4000 亿美元的软件市场，并蚕食 10 万亿美元的美国服务经济。
但这种转变需要新的基础设施：智能体身份验证、工具集成平台、人工智能浏览器框架以及人工智能生成代码的专用运行时。
更多「上位者」倒台
ChatGPT 今年战绩斐然：Chegg 的市值蒸发了 85%，Stack Overflow 的网络流量减半。
其他类别的颠覆时机也已经成熟，像 Cognizan 这样 IT 外包公司和 UiPath 等传统自动化公司也应该对 AI 颠覆做好准备。
随着时间的推移，即使是 Salesforce 和 Autodesk 这样的软件巨头也将面临人工智能原生的挑战者。
没有缓解的迹象：AI 人才短缺加剧
随着人工智能系统的激增，且变得越来越复杂，行业目前还处于大规模人才短缺的边缘，科技行业将面临严重的稀缺。
不仅仅是数据科学家的短缺，能够将先进的人工智能能力与特定领域的专业知识联系起来的专家也严重不足。
人才库已经低得危险。
参考资料：
