Menlo Ventures 今天发布了一份关于 AI 很有价值的报告，这个报告由他们对 600 名企业 IT 决策者进行调查后得出的结果（原文地址：https://menlovc.com/2024-the-state-of-generative-ai-in-the-enterprise/），

很多结论跟我的观察非常类似，这里基于 AI 的翻译简单做一下分享（部分删节），

有几个数据挺值得关注：

首先是今年企业在 AI 的支出达到了 138 亿美金，是去年 23 亿美金的 6 倍多，Menlo Ventures 说这是一个非常明确的信号，表明企业正在从实验转向执行，将人工智能嵌入其业务战略的核心。

支出的激增还反映了企业的乐观情绪；72% 的决策者预计在不久的将来会更广泛地采用生成式人工智能工具。这种信心并不只是猜测，生成式人工智能工具已经深入到从程序员到医疗服务提供者等专业人士的日常工作中。

不过尽管前景乐观，投资也在不断增加，但许多决策者仍在摸索什么对他们的企业有效，什么对他们的企业无效。在其调查中，超过三分之一的受访者对于如何在其组织内实施生成式人工智能没有清晰的愿景。

数据显示，今天 60% 的企业生成式 AI 投资来自创新预算，这反映了生成式 AI 采纳的早期阶段。然而，随着 40% 的生成式 AI 支出来自更为永久的预算——其中 58% 是从现有分配中重新分配的——企业正在展示其对 AI 转型的日益承诺。

其次，虽然大模型仍然是支出的大头，但是应用层的增长更快。Menlo Ventures 的数据显示，2024 年，许多活动都发生在应用层。随着许多架构设计模式的确立，应用层公司正在利用 LLM 跨领域的能力来释放新的效率和能力。企业买家正在抓住这一时机，在 2024 年向生成式人工智能应用投入 46 亿美元，比去年的 6 亿美元增长了近 8 倍。

目前最有价值的四个应用场景

这 4 个应用场景跟我的观察非常类似，分别是 AI 编程、AI 客服、AI for Work 以及 AI 笔记（会议），都是我今年核心关注的几个重点领域。

1. 第一个 AI 编程领域 Code Copilots，采用率高达 51%。它使开发人员成为人工智能最早的强大用户。GitHub Copilot 的收入迅速攀升至 3 亿美元，验证了这一轨迹，而 Codeium 和 Cursor 等新兴工具也在快速增长。除了一般的编码助手，企业还在购买针对特定任务的 Copilot，比方说像 Harness 这种AI DevOps Engineer 和 QA Assistant，用于管道生成和测试自动化，以及 All Hands等能够执行更多端到端软件开发的 AI 代理。《Grammarly ARR 或达 2.75 亿美金，两个 Ai 估值飙升至 20+亿美金》
2. AI 客服支持类，这块的企业采用率达到了 31%。这些应用程序为内部员工和外部客户提供可靠、全天候、基于知识的支持。Aisera、Decagon 和 Sierra 的座席人员直接与终端客户互动，而 Observe AI 则在呼叫过程中为联络中心座席人员提供实时指导。《华人 AI 客服拿了 2.7 亿美金，红杉、a16z、以及 Tiger 等均入局》
3. 企业搜索和检索以及数据提取和转换（分别占 28% 和 27%）反映出，人们强烈希望发掘和利用隐藏在各组织数据孤岛中的宝贵知识。Glean 和 Sana 等解决方案可连接电子邮件、消息应用和文档存储，实现跨不同系统的统一语义搜索，并提供人工智能驱动的知识管理。《又一 AI 编程工具 4 周 400 万美金 ARR，Glean 的竞对估值 19 亿美金了》
4. AI 会议总结在使用案例中排名第五（采用率为 24%），它通过自动记笔记和记录来节省时间和提高生产力。这块我之前介绍了一系列产品，包括面向通用场景和一些垂直场景如医疗、创投等行业。《AI 笔记再拿 5000 万美金行业进入新阶段，OpenAI 董事长的 AI 产品估值 45 亿美金了》。

代理与自动化：AI 正在开始掌舵

报告说，目前的实施模式表明，人们更倾向于增强人类的工作流程，而不是完全自动化。但我们现在才刚刚接近向更加自主的解决方案过渡。能够独立管理复杂的端到端流程的人工智能代理的早期案例正在各行各业涌现。金融后台工作流程中的先驱企业 Forge 和 Sema4，以及 Clay 的市场推广工具，都展示了完全自主的生成式人工智能系统如何改变传统上由人类主导的行业，并指向未来的服务即软件时代，即人工智能驱动的解决方案提供传统服务提供商的功能，但完全通过软件运行。

在决定是自己构建还是购买时，企业的比例都比较均匀，47% 的解决方案是内部开发的，53%是从供应商处采购的。与 2023 年相比，这是一个明显的变化，当时其报告称 80% 的企业依赖第三方生成式人工智能软件，这表明许多企业越来越有信心和能力建立自己的内部人工智能工具，而不是主要依赖外部供应商。

长期游戏：企业在生成式人工智能采用中优先考虑价值而非快速收益

在选择生成式人工智能应用时，企业有明确的优先考虑事项：在选择新工具时，投资回报和特定行业的定制化最为重要。令人惊讶的是，价格并不是主要问题；在我们调查的企业领导者中，仅有 1%的人提到价格是选择时考虑的因素。买家们玩的是长期游戏：他们更关注能提供可衡量价值的工具（30%）和能理解其工作独特背景的工具（26%），而不是价格最低的工具（1%）。

尽管企业在投资回报率和定制化方面做了大量工作，但他们可能会忽略实施难题中的关键部分。通常情况下，企业发现自己低估了技术集成、持续支持和可扩展性的重要性，为时已晚。这就好比买车时只考虑燃油效率，后来才发现服务的可用性和易维护性在长期使用中同样重要。

当人工智能试点遇到困难或停滞不前时，往往是由于在选择过程中没有充分考虑到挑战。虽然购买者并不检查价格标签，但在 26% 的失败试点中提到的实施成本常常让他们措手不及。数据隐私障碍（21%）和令人失望的投资回报率（18%）也让试点项目偏离了正轨。技术问题，尤其是幻觉（15%），是导致失败的主要原因。在规划和选择阶段积极解决这些潜在的隐患，可以提高成功实施的可能性。

现有企业更容易受到初创企业的干扰

去年，现有企业通过在现有产品上添加人工智能生成功能的 "附加 "战略，主导了企业市场。我们曾预测初创企业将逐渐占据优势，而今年的数据验证了我们的想法：虽然 64% 的客户仍倾向于从老牌供应商处购买产品，理由是信任和开箱即用的功能，但现有供应商的主导地位已开始出现裂痕。

我们的数据揭示了日益增长的不满情绪：18%的决策者对现有产品表示失望；40%的决策者质疑现有解决方案是否能真正满足他们的需求，这预示着创新型初创企业有机会介入并确立自己的地位。

AI 开始从部门开始变革

如今，生成式人工智能的应用引人注目的不仅仅是规模，还有范围。今年，生成式人工智能的预算流向了每个部门。其中技术部门占据了最大的支出份额，IT（22%）、产品+工程（19%）和数据科学（8%）共占企业生成式人工智能投资的近一半。

其余预算分布在面向客户的职能部门，如支持（9%）、销售（8%）和营销（7%），包括人力资源和财务在内的后台团队（各占 7%），以及较小的部门，如设计（6%）和法务（3%）。

垂直人工智能应用开始崛起

这块跟我的观察也非常类似，首批生成式人工智能应用是用于文本和图像生成的横向解决方案，但 2024 年，越来越多的应用发现，将 LLM 的新功能应用到高度特定领域的垂直化工作流程中具有 traction。以下垂直领域的应用处于领先地位：

• 医疗保健：传统上，医疗保健行业在采用技术方面进展缓慢，但现在，医疗保健行业正引领着人工智能的发展，企业支出达 5 亿美元。Abridge、Ambience、Heidi 和 Eleos Health 等环境转录软件正在成为医生办公室的主打产品，而自动化解决方案正在临床生命周期中不断涌现，从分诊和接诊（如 Notable）到编码（如 SmarterDx、Codametrix）和收入周期管理（如 Adonis、Rivet）。
• 法律：法律行业（企业人工智能支出达 3.5 亿美元）历来对技术有抵触情绪，但现在却开始采用生成式人工智能来管理海量非结构化数据，并实现复杂的、基于模式的工作流程自动化。该领域大致分为诉讼法和交易法，并有许多分支专业。Everlaw 扎根于诉讼领域，专注于法律持有、电子发现和庭审准备，而 Harvey 和 Spellbook 则在交易法领域推进人工智能，为合同审查、法律研究和并购提供解决方案。特定的实践领域也是人工智能创新的目标：EvenUp专注于伤害法，Garden 专注于专利和知识产权，Manifest 专注于移民和就业法，而 Eve 正在重新发明原告案件从客户接收到解决的整个过程。
• 金融服务：金融服务（企业人工智能支出达 1 亿美元）拥有复杂的数据、严格的法规和关键的工作流程，是人工智能转型的最佳选择。Numeric 和 Klarity 等初创公司正在彻底改变会计工作，而 Arkifi 和 Rogo 则通过先进的数据提取技术加速金融研究。Arch 正在利用人工智能颠覆 RIA 和投资基金的后台流程。Orby 和 Sema4 是从对账和报告开始的更广泛的横向解决方案，而 Greenlite 和 Norm AI 则提供实时合规监控，以跟上不断变化的法规。
• 媒体与娱乐： 从好莱坞的银幕到创作者的智能手机，生成式人工智能正在重塑媒体和娱乐业（企业人工智能支出达 1 亿美元）。像 Runway 这样的工具现在已成为工作室级的主打产品，而 Captions 和 Descript 这样的应用程序则为独立创作者提供了能力。Black Forest Labs、Higgsfield、Ideogram、Midjourney 和 Pika 等平台推动了专业人士的图像和视频创作。

基础设施与现代人工智能堆栈

经过一年的快速发展，现代人工智能堆栈在 2024 年趋于稳定，企业围绕核心构件展开合作，这些构件构成了大多数生产型人工智能系统的运行时架构。

基础模型仍占主导地位。LLM 层获得了 65 亿美元的企业投资。然而，通过不断尝试和犯错，企业越来越认识到数据脚手架和集成在构建复杂的复合人工智能架构中的重要性，这种架构可以在生产中可靠运行，而不仅仅是一次性演示。

LLM 趋势：多模型战略占上风，OpenAI 让位于 Anthropic

企业不再依赖单一的供应商，而是采用了务实的多模型方法。我们的研究表明，企业通常会在其人工智能堆栈中部署三种或三种以上的基础模型，并根据用例或结果选择不同的模型。

这种策略延伸到了开放源代码与封闭源代码的争论中，尽管行业讨论激烈，但人们对开放源代码与封闭源代码的偏好一直保持稳定。闭源解决方案占据了绝大多数市场份额，达到 81%，而开源替代方案（以 Meta 的 Llama 3 为首）则稳定在 19%，与 2023 年相比仅下降了一个百分点。

在闭源模型中，OpenAI 的先发优势有所削弱，企业市场份额从 50% 降至 34%。Anthropic 是主要受益者，它的企业市场份额从 12% 倍增到 24%，因为一些企业在 Claude 3.5 Sonnet 成为最先进模型后，从 GPT-4 转向了 Claude 3.5 Sonnet。在转向新的 LLM 时，企业最常见的动机是安全考虑（46%）、价格（44%）、性能（42%）和扩展功能（41%）。‘

设计模式趋势：RAG 增势迅猛，微调十分罕见，代理异军突起

企业人工智能设计模式--用于构建高效、可扩展人工智能系统的标准化架构--正在迅速发展。RAG（检索增强生成）目前占主导地位，采用率为 51%，比去年的 31% 大幅上升。与此同时，经常被吹捧的微调，尤其是在领先的应用提供商中，仍然少得令人吃惊，只有 9% 的生产模型进行了微调。

今年最大的突破是什么？代理架构首次亮相，已经为 12% 的应用提供了动力。

数据库、ETL 和数据管道：RAG 的基础

要为 RAG 提供动力，企业必须高效地存储和访问相关的查询知识。尽管 Postgres（15%）和 MongoDB（14%）等传统数据库仍很常见，但人工智能优先的解决方案仍在不断壮大。Pinecone 是一款人工智能原生向量数据库，已经占据了 18% 的市场份额。类似的转变也发生在数据 ETL/准备领域。传统的 ETL平台（如Azure Document Intelligence）仍然占据了28%的部署份额，但 Unstructured 等专业工具旨在处理 PDF 和 HTML 等文档中的非结构化数据的细微差别，正在开辟自己的空间，占据了16%的市场份额。在整个技术堆栈中，我们看到了对专为满足现代人工智能需求而设计的技术的需求。

Menlo Ventures 的 3 个预测

1. Agents 代理将推动下一波转型。代理自动化将推动下一波人工智能转型，处理复杂、多步骤的任务，这些任务超出了当前专注于内容生成和知识检索的系统的能力。Clay 和 Forge 等平台预示着高级代理将如何颠覆价值 4000 亿美元的软件市场，并蚕食价值 10 万亿美元的美国服务经济。这种转变将需要新的基础设施：代理认证、工具集成平台、人工智能浏览器框架以及人工智能生成代码的专用运行时。
2. 更多现有企业将倒下。ChatGPT 今年对 Chegg 和 Stack Overflow 的颠覆敲响了警钟：Chegg 85% 的市值消失了，而 Stack Overflow 的网络流量则减少了一半。其他类别的颠覆时机也已成熟。像 Cognizant 这样的 IT 外包公司和 UiPath 这样的传统自动化企业应该做好准备，迎接人工智能原生挑战者进入他们的市场。随着时间的推移，甚至像 Salesforce 和 Autodesk 这样的软件巨头也将面临人工智能原生挑战者。
3. 看不到缓解的迹象：人工智能人才荒愈演愈烈。我们正处于大规模人才荒的边缘。随着人工智能系统的激增和日益复杂，科技行业将面临严重的人才匮乏问题。这不仅仅是数据科学家的短缺，而是能够将先进的人工智能能力与特定领域专业知识相结合的专家的严重缺口。人才储备已经少得危险。请做好准备，竞争将急剧加剧，已经高薪聘请的人工智能企业架构师的薪酬将提高 2-3 倍，这将成为一种常态。尽管对培训计划和人工智能卓越中心进行了投资，但人才缺口将超过这些努力，从而加剧对推动下一波人工智能创新所需的有限人才的激烈竞争。

最后，Menlo Ventures 认为这一切才刚刚开始，人工智能正在为一个新的转型时代铺平道路，它由尖端的人工智能工具、增强能力的员工队伍和变革性的商业模式驱动，将重塑我们的经济。

文章来自微信公众号 “ 投资实习所 ”，作者 “ StartupBoy “