为什么95%的企业AI智能体项目会失败

各企业的开发团队都陷入了同样的循环：他们在弄清楚要构建什么智能体之前，就先说"让我们试试LangChain"。他们在没有定义用例的情况下探索CrewAI。他们在确定智能体实际需要什么知识之前就实施RAG。几个月后，他们有了一个令人印象深刻的技术演示，展示了多智能体编排和工具调用——但无法阐明投资回报率，也无法解释它如何解决实际的业务需求。

根据麦肯锡的最新研究，虽然近八成公司报告使用了生成式AI，但已部署的用例中只有不到10%能走出试点阶段。MIT研究这一挑战的研究人员发现了一种"生成式AI鸿沟"——成功部署AI的组织与陷入无休止试点的组织之间的差距。在他们对52个组织的样本中，研究人员发现的模式表明失败率高达95%（第3页）。无论真实失败率是50%还是95%，模式都很清晰：组织缺乏明确的起点，项目在试点阶段后停滞不前，大多数定制企业工具无法进入生产环境。

扼杀你AI智能体项目的6个关键失败

智能体AI的承诺与现实之间的差距是鲜明的。理解这些失败模式是构建真正有效系统的第一步。

1. 技术优先的陷阱

MIT的研究发现，虽然60%的组织评估了企业AI工具，但只有5%进入了生产环境（第6页）——这清楚地表明企业难以从探索走向执行。团队在定义业务问题之前就急于实施框架。虽然大多数组织已经超越了临时性方法（根据IBM的数据，从19%下降到6%），但他们用结构化的复杂性取代了混乱，而这种复杂性仍然没有击中要害。

与此同时，四分之一的公司采取真正的"AI优先"方法——从业务问题而非技术能力出发——报告了变革性成果。差异与其说在于技术成熟度，不如说在于战略清晰度。

2. 能力现实差距

卡内基梅隆大学的TheAgentCompany基准测试揭示了令人不安的真相：即使是我们最好的AI智能体也会是糟糕的员工。最好的AI模型（Claude 3.5 Sonnet）只能完成24%的办公任务，给予部分分数时成功率为34.4%。智能体在基本障碍上就会挣扎，比如弹出窗口，而人类可以本能地应对。

更令人担忧的是，当面临挑战时，一些智能体会诉诸欺骗，比如重命名现有用户，而不是承认找不到正确的人。这些问题表明存在根本性的推理差距，使得自主部署在真实业务环境中变得危险，而不仅仅是技术限制。

3. 领导力真空

这种脱节显而易见：尽管70%的高管表示智能体AI对其未来至关重要，但只有不到30%的公司报告称CEO对AI议程给予了支持。这种领导力的真空引发了连锁失败——AI计划碎片化为各部门的实验，缺乏推动组织变革的权威，也无法打破孤岛以获取必要的资源。

与此形成鲜明对比的是Moderna，其CEO的支持推动了750多个AI智能体的部署，以及人力资源和IT部门的彻底重组。正如早期的大数据、数据科学、机器学习采用浪潮一样，领导层的支持是生成式AI计划能否存活的决定性因素。

4. 安全与治理障碍

组织被治理悖论所瘫痪：92%认为治理至关重要，但只有44%制定了政策（SailPoint，2025）。结果是可以预见的——80%经历了AI超出预期边界的行为，主要担忧包括特权数据访问（60%）、意外操作（58%）和共享特权数据（57%）。如果没有明确的道德准则、审计追踪和合规框架，即使是成功的试点也无法进入生产环境。

5. 基础设施混乱

基础设施的差距引发了失败的多米诺骨牌效应。虽然82%的组织已经在使用AI智能体，但49%将数据问题列为主要采用障碍（IBM）。数据仍然分散在各个系统中，使得无法为智能体提供完整的上下文。

团队最终要管理多个数据库——一个用于操作数据，另一个用于向量数据和工作负载，第三个用于对话记忆——每个都有不同的API和扩展特性。这种复杂性在智能体真正证明价值之前就扼杀了动力。

6. 投资回报率的海市蜃楼

乐观与现实之间的差距令人震惊。近80%的公司报告称生成式AI没有带来实质性收益影响（McKinsey），而62%期望部署能带来100%以上的投资回报率（PagerDuty）。公司衡量的是活动（部署的智能体数量）而非结果（创造的业务价值）。如果没有预先定义明确的成功指标，即使是成功的实施看起来也像是昂贵的实验。

AI开发范式的转变：从数据优先到产品优先

成功的团队在智能体AI开发方法上已经发生了根本性转变，这与Shawn Wang（Swyx）在其颇具影响力的“AI工程师的崛起”一文中对更广泛的生成式AI领域的观察如出一辙。

旧方式：数据 → 模型 → 产品

在机器学习早期实践的传统范式中，团队会花费数月时间设计数据集、标注训练数据，并为模型预训练做准备。只有在从头训练自定义模型之后，他们才能最终将这些模型整合到产品功能中。

这种权衡非常严峻：巨大的前期投入、漫长的开发周期、高昂的计算成本，以及能力狭窄且脆弱的模型。这种顺序式流程造成了很高的进入门槛——只有拥有大量机器学习专业知识和资源的组织才能部署 AI 功能。

新方式：产品 → 数据 → 模型

基础模型的出现改变了一切。

强大的 LLM 通过 OpenAI 和 Anthropic 等提供商实现了商品化。现在，团队可以：

• 从产品愿景和客户需求出发。
• 确定哪些数据能够增强它（示例、知识库、RAG（检索增强生成） 内容）。
• 选择能够有效处理这些数据的合适模型。

这使得通过简单的 API（应用程序编程接口） 调用即可实现零样本和少样本能力。团队可以在几天内构建 MVP，根据实际用例定义数据需求，然后根据性能需求选择和替换模型。开发者现在可以快速交付实验、收集洞察以改进数据（用于 RAG 和评估），然后仅在必要时进行微调。这使前沿 AI 民主化，惠及所有开发者，而不仅仅是那些拥有专业机器学习背景的人。

智能体演进：产品 → 智能体 → 数据 → 模型

但对于智能体系统，还有一个更重要的洞察：智能体设计位于产品和数据之间。

现在，团队遵循以下推进路径：

• 产品：定义用户问题和成功指标。
• 智能体：设计智能体能力、工作流和行为。
• 数据：确定智能体需要哪些知识、示例和上下文。
• 模型：选择外部提供商，并针对你的数据优化提示词。

借助外部模型提供商，“模型”阶段实际上更多是关于选择和集成，而不是部署。团队选择哪个提供商的模型最能处理他们的数据和用例，然后构建编排层来管理 API 调用、处理故障并优化成本。

智能体层决定了下游的一切——确定需要什么数据（知识库、示例、反馈循环），需要什么工具（搜索、计算、代码执行），以及最终哪些外部模型能够有效执行该设计。

这种演进意味着团队可以从一个明确的用户问题出发，设计一个智能体来解决它，确定必要的数据，然后选择合适的模型——而不是从数据出发，再希望找到一个用例。这就是为什么画布框架遵循这一精确流程。

画布框架：构建 AI 智能体的系统化方法

成功的团队不会直接跳入技术实现，而是使用结构化的规划框架。可以将它们视为“AI 智能体的商业模式画布”——帮助团队按正确顺序思考关键决策的工具。

两个互补的框架直接针对常见的失败模式：

画布 #1 - 用于验证智能体想法的 POC 画布

POC 画布通过八个聚焦方格实现产品 → 智能体 → 数据 → 模型的流程，专为快速验证而设计：

阶段 1：产品验证——谁需要这个，为什么？

在构建任何东西之前，你必须验证真实问题确实存在，并且用户确实想要 AI 智能体解决方案。这一阶段可以防止常见错误：构建了令人印象深刻的技术，却没有人需要。如果你无法清楚说明谁会使用它，以及为什么他们会更喜欢它而不是当前方法，那就到此为止。

阶段 2：智能体设计——它将做什么，以及如何做？

在问题得到验证后，设计智能体的能力和行为来解决该特定需求。这一阶段在任何技术实现之前定义智能体的边界、决策逻辑和交互风格。智能体设计直接决定你需要哪些数据和模型，因此它是问题与解决方案之间的关键桥梁。

阶段 3：数据需求——它需要什么知识？

智能体的能力取决于其知识库，因此需要明确智能体完成任务所需的确切信息。此阶段在选择模型之前，先梳理现有数据源和缺口，确保不会选择无法处理实际数据情况的技术。提前理解数据需求可以避免代价高昂的错误——选择无法处理实际信息的模型。

阶段 4：外部模型集成——选择哪个提供商以及如何集成？

只有在明确数据需求之后，才应选择外部模型提供商并构建集成层。此阶段测试可用模型能否在预算范围内处理你的特定数据和用例。重点在于提示词工程和 API 编排，而非模型部署，这反映了现代 AI 智能体的实际构建方式。

统一数据架构：解决基础设施混乱

还记得那个基础设施问题吗——团队管理着三个独立的数据库，各自有不同的 API 和扩展特性？这正是统一数据平台变得至关重要的地方。

智能体需要三种类型的数据存储：

• 应用数据库：用于业务数据、用户画像和交易历史
• 向量存储：用于语义搜索、知识检索和 RAG
• 记忆存储：用于智能体上下文、对话历史和学习行为

团队无需在多个系统之间周旋，而是可以使用像 MongoDB Atlas 这样的统一平台，它提供全部三种能力——用于应用数据的灵活文档存储、用于语义检索的原生向量搜索，以及用于记忆管理的丰富查询功能——全部集成在一个平台中。

这种统一方法意味着团队可以专注于提示词工程和编排，而非模型基础设施，同时保持灵活性，随着需求变得更加清晰来演进数据模型。数据平台处理复杂性，而你则优化外部模型与知识库的交互方式。

对于嵌入和搜索相关性，像 Voyage AI 这样的专用模型可以提供领域特定的理解能力，尤其是在通用嵌入模型表现不佳的技术文档领域。统一数据架构与专用嵌入模型的结合，解决了导致项目失败的基础设施混乱问题。

这种统一方法意味着团队可以专注于智能体逻辑而非数据库管理，同时保持灵活性，随着需求变得更加清晰来演进数据模型。

画布 #2——用于扩展已验证 AI 智能体的生产画布

当 POC 成功时，生产画布通过 11 个方格引导从“它能运行”到“它能在规模上运行”的过渡，这些方格按照相同的 product → agent → data → model 流程组织，并增加了额外的运维关注点：

阶段 1：产品与规模规划

将 POC 的经验转化为具体的业务指标和生产部署的规模要求。此阶段确立投资的经济论证，并定义在规模上成功的样子。没有清晰的 KPI 和增长预测，生产系统会变成昂贵的实验，而不是业务资产。

阶段 2：Agent（智能体） 架构

设计健壮的系统，能够处理复杂工作流、多个 Agent 以及不可避免的故障，同时不干扰用户。此阶段解决 POC 忽略但生产所要求的编排和容错问题。这里的架构决策决定了你的 Agent 能否从 10 个用户扩展到 10,000 个用户而不崩溃。

阶段 3：数据基础设施

构建数据基础，将应用程序数据、向量存储和 Agent 记忆统一到一个可管理的平台中。此阶段解决因复杂性而扼杀生产部署的“三个数据库问题”。统一的数据架构降低了运维开销，同时实现了生产 Agent 所需的复杂检索和上下文管理。

阶段 4：模型运维

实施在生产规模下管理多个模型提供商、微调和成本优化的策略。此阶段涵盖 API 管理、性能监控以及模型性能的持续改进流水线。重点在于高效编排外部模型，而不是部署自己的模型，包括何时以及如何微调。

阶段 5：加固与运维

添加安全、合规、用户体验和治理层，将可运行的系统转变为企业级解决方案。此阶段解决 POC 跳过但企业所要求的非功能性需求。如果没有适当的加固，即使是最好的 Agent 也会因安全或合规问题而困在试点炼狱中。

下一步：开始构建能够带来 ROI 的 AI Agent

麻省理工学院的研究发现，66% 的高管希望系统能够从反馈中学习，而 63% 的高管要求上下文保留能力（第 14 页）。AI 与人类偏好之间的分界线在于记忆、适应性和学习能力。

画布框架通过强制团队按照正确的顺序回答关键问题，直接解决了困扰大多数项目的失败模式——遵循成功团队所发现的产品 → 智能体 → 数据 → 模型流程。

对于您的下一个智能体 AI 项目：

• 从 POC 画布开始，快速验证概念。
• 先关注用户问题，再考虑技术方案。
• 完成画布后，利用 AI 工具快速制作原型。
• 只通过生产画布扩展用户真正想要的功能。
• 从第一天起就选择统一的数据架构以降低复杂性。

请记住：目标不是构建尽可能最复杂的智能体——而是构建能在生产环境中为真实用户解决真实问题的智能体。

准备好开始构建了吗？下载智能体 AI 画布模板，开启您系统化的 AI 智能体开发方法。

资源

• 下载 POC 画布模板（PDF）
• 下载生产画布模板（PDF）
• 下载 POC + 生产画布合并版（Excel）——在一个 Excel 文件中获取两种画布，包含示例提示词和空白模板。
• MongoDB AI 学习中心

完整参考文献列表

• McKinsey & Company. (2025). "Seizing the agentic AI advantage." https://www.mckinsey.com/capabilities/quantumblack/our-insights/seizing-the-agentic-ai-advantage
• MIT NANDA. (2025). "The GenAI Divide: State of AI in Business 2025." Report , Form
• Gartner. (2025). "Gartner Predicts Over 40% of Agentic AI Projects Will Be Canceled by End of 2027." https://www.gartner.com/en/newsroom/press-releases/2025-06-25-gartner-predicts-over-40-percent-of-agentic-ai-projects-will-be-canceled-by-end-of-2027
• IBM. (2025). "IBM Study: Businesses View AI Agents as Essential, Not Just Experimental." https://newsroom.ibm.com/2025-06-10-IBM-Study-Businesses-View-AI-Agents-as-Essential,-Not-Just-Experimental
• Carnegie Mellon University. (2025). "TheAgentCompany: Benchmarking LLM Agents." https://www.cs.cmu.edu/news/2025/agent-company
• Swyx. (2023). "The Rise of the AI Engineer." Latent Space. https://www.latent.space/p/ai-engineer
• SailPoint. (2025). "SailPoint research highlights rapid AI agent adoption, driving urgent need for evolved security." https://www.sailpoint.com/press-releases/sailpoint-ai-agent-adoption-report
• SS&C Blue Prism. (2025). "Generative AI Statistics 2025." https://www.blueprism.com/resources/blog/generative-ai-statistics-2025/
• PagerDuty. (2025). "State of Digital Operations Report." https://www.pagerduty.com/newsroom/2025-state-of-digital-operations-study/
• Wall Street Journal. (2024). "How Moderna Is Using AI to Reinvent Itself." https://www.wsj.com/articles/at-moderna-openais-gpts-are-changing-almost-everything-6ff4c4a5

后续步骤

如需关于记忆管理的实操指导，请查看我们在 YouTube 上的网络研讨会，其中涵盖了构建记忆增强型智能体的核心概念和经过验证的技术。

前往 MongoDB AI Learning Hub，了解如何使用 MongoDB 构建和部署 AI 应用程序。

转载声明：本文为转载整理，原文版权归原作者及原站点所有。

原文来源：MongoDB Blog

原创地址：https://www.mongodb.com/company/blog/technical/build-ai-agents-worth-keeping-canvas-framework