过去两年,企业级 AI 的叙事几乎被一个词主导:Agent。从客服自动应答、代码生成,到运维巡检、财务对账,Agent 被包装成“永不疲倦的数字员工”,仿佛只要接入大模型,就能把人力成本一键清零。
但企业技术决策者正在经历一个微妙的转折:Demo 阶段的惊艳,到了生产环境往往变成另一副面孔。Agent 不是十全十美的员工。它可能是一个“吞金兽”,在不知不觉中把算力和 API 账单推向失控;也可能是一个“捣蛋鬼”,用难以复现的方式给运维团队制造新的麻烦。当 Agent 从“工具”变成“有自主性的执行者”,失控的代价也随之放大。
吞金兽:当 Agent 把“按次调用”变成“资源黑洞”
1.1 成本结构的隐蔽性:从“买软件”到“养员工”
传统企业软件的预算是可预测的:License 一次性采购,服务器按年扩容,成本曲线相对平缓。而 Agent 的成本模型完全不同——它按 token、按调用次数、按推理时长计费,且消耗量高度依赖运行时行为。
问题在于,Agent 的“工作量”并不像人类员工那样可预估。一个被设计为“自动处理客户工单”的 Agent,可能因为提示词设计不当、上下文过长、工具调用陷入循环,而在一次任务中消耗掉数十倍于预期的 token。更麻烦的是,这种消耗在监控面板上往往表现为“正常调用”,直到月底账单出来才被发现。
依据现有素材判断,企业在 Agent 上线初期最常见的成本失控场景包括:多轮工具调用未设上限、长上下文反复重传、失败重试缺乏退避策略、以及多个 Agent 之间相互触发形成的“调用风暴”。这些都不是模型能力问题,而是工程治理问题。
1.2 “资源黑洞”的三种典型形态
第一种:推理循环。 Agent 在调用外部工具失败后不断重试,或在与另一个 Agent 协作时陷入“你问我答”的死循环。单次成本不高,但循环次数不受控,累积消耗惊人。
第二种:上下文膨胀。 为了“让 Agent 记住更多”,工程团队把大量历史对话、文档、日志塞进上下文窗口。每一次调用都携带全量上下文,token 成本随对话轮次线性甚至指数上升。
第三种:影子调用。 Agent 被授予了调用内部 API、数据库、第三方服务的权限,但缺乏统一的配额管理。某个业务线悄悄上线一个 Agent,消耗却记在共享的云账户上,形成“看不见的成本中心”。
1.3 治理思路:把 Agent 当“需要预算的员工”来管
要遏制吞金兽,核心是把 Agent 的消耗纳入可观测、可限额、可审计的体系。依据现有素材判断,可行的做法包括:
为每个 Agent 设定 token 与调用次数的硬上限,超限即熔断,而不是事后告警;
对工具调用设置最大轮次与退避重试策略,避免无限循环;
建立按 Agent、按业务线、按租户的成本归集,让“谁在用、用了多少”一目了然;
在 CI/CD 流程中加入成本回归测试,提示词或工具链变更后,评估单任务平均消耗是否异常上升。
这些措施并不高深,但它们把“成本”从一个财务事后问题,变成了工程前置约束。Agent 可以是高效员工,但前提是给它装上“预算意识”。
捣蛋鬼:更复杂的运维负担从何而来
2.1 非确定性:运维最不喜欢的特性
传统系统的行为是可复现的:同样的输入,同样的输出,出了问题可以回放日志、定位代码行。而基于 LLM 的 Agent 天生带有非确定性——同样的输入,可能因为采样、上下文顺序、模型版本更新而给出不同结果。
这对运维意味着什么?意味着故障难以复现,根因难以定位,回归测试难以覆盖。一个 Agent 今天表现正常,明天可能因为上游模型的一次静默更新而行为漂移。运维团队面对的不再是“稳定但脆弱”的脚本,而是“灵活但难以捉摸”的黑盒。
依据现有素材判断,这种非确定性带来的运维负担,往往在 Agent 数量增加后被放大:单个 Agent 的偶发异常尚可人工兜底,当企业同时运行数十上百个 Agent 时,异常的组合爆炸会让值班团队疲于奔命。
2.2 权限与边界:捣蛋鬼的破坏力来自“能做什么”
Agent 的危险程度,取决于它被授予了多少权限。一个只能读文档的 Agent,出问题最多是答错话;一个能写数据库、能发邮件、能调用支付接口的 Agent,出问题就是生产事故。
现实中常见的隐患包括:Agent 使用了过宽的服务账号权限、工具调用缺乏人工确认环节、Agent 之间的身份与权限边界模糊。当多个 Agent 相互调用时,权限可能被“传递”放大,形成一条难以追踪的授权链。
2.3 可观测性缺口:你看不见它,就管不住它
传统 APM 关注的是请求延迟、错误率、资源占用。而 Agent 的运维需要新的观测维度:它做了什么决策、调用了哪些工具、消耗了多少 token、输出是否偏离预期。
依据现有素材判断,多数企业在 Agent 上线时,可观测性建设是滞后的。日志里只有“调用成功/失败”,没有“为什么这么调用”。一旦出现业务异常,团队很难回答“是哪个 Agent、在哪一步、基于什么上下文做出了这个动作”。
2.4 治理思路:给捣蛋鬼装上“护栏”与“行车记录仪”
最小权限原则:每个 Agent 使用独立身份,权限按任务最小化授予,敏感操作强制人工确认;
全链路追踪:记录 Agent 的决策链、工具调用参数与返回、上下文摘要,支持事后回放;
行为基线告警:对调用频率、工具分布、输出长度建立基线,偏离即告警;
灰度与回滚:Agent 的提示词、工具链、模型版本变更走灰度发布,保留快速回滚能力;
人机协同兜底:对高风险场景设置“Agent 建议、人来执行”的分工,而非全自动。
这些护栏不会让 Agent 变得“完美”,但能让它在失控时被及时拦住,而不是一路闯祸。
从“完美员工”到“可控员工”:Agent 治理的长期主义
3.1 重新校准预期:Agent 是“实习生”,不是“老员工”
企业引入 Agent 时,最容易犯的错误是把预期拉满:希望它独立完成端到端任务、替代成熟岗位、零差错运行。这种预期本身就是风险的源头。
更现实的定位是:Agent 是一个能力不错但需要监督的“实习生”。它可以承担重复性高、容错空间大的任务;它需要明确的边界、清晰的指令、以及随时可介入的人类监督者。把 Agent 当“老员工”放养,吞金兽和捣蛋鬼就会同时出现。
3.2 治理框架:成本、权限、可观测性三位一体
依据现有素材判断,成熟的 Agent 治理应围绕三条主线展开:
成本治理——预算、配额、归集、回归测试,让消耗可见可控;
权限治理——最小权限、身份隔离、敏感操作确认,让破坏力有上限;
可观测性治理——决策链追踪、行为基线、灰度回滚,让异常可发现可止损。
三者缺一不可。只控成本不控权限,省下的钱可能赔进事故;只控权限不建可观测性,出了问题依然抓瞎。
3.3 组织与流程:Agent 需要“产品经理”和“值班表”
技术之外,Agent 的失控往往源于组织缺位。谁对某个 Agent 的行为负责?谁审批它的权限变更?谁在它异常时第一时间响应?
依据现有素材判断,领先实践正在把 Agent 纳入类似“产品”的管理体系:每个 Agent 有明确的负责人(Owner)、有变更评审流程、有值班与升级机制、有下线标准。Agent 不是“上线即完事”的项目,而是需要持续运营的“数字资产”。
3.4 趋势判断:Agent 治理会成为企业 AI 的基础设施
可以预见,随着 Agent 从试点走向规模化,企业会越来越需要专门的 Agent 治理能力:统一的 Agent 注册与目录、集中式的配额与权限管理、标准化的可观测性埋点、以及跨 Agent 的审计与合规能力。
这不是给创新踩刹车,而是让创新可持续。没有治理的 Agent 规模化,只会让“吞金兽”和“捣蛋鬼”的故事反复上演,最终透支企业对 AI 的信任。
结论
Agent 的价值毋庸置疑,但它绝不是十全十美的员工。它可以是效率倍增器,也可以是资源黑洞;可以是自动化助手,也可以是运维噩梦。区别不在于模型有多强,而在于企业有没有把它当作一个“需要被管理的执行者”来对待。
把 Agent 当“实习生”而非“老员工”,用成本配额管住吞金兽,用最小权限和全链路追踪管住捣蛋鬼,用组织流程让每个 Agent 都有负责人——这些工作不性感,却决定了 Agent 能否真正走进生产环境、走进核心业务。
技术媒体热衷于讨论 Agent 能做什么,但企业技术决策者更需要回答的是:当它失控时,我们能不能接得住。这个问题的答案,才是 Agent 规模化的真正门槛。
生成标记:本文由 ITPUB 文章生成平台基于已选素材整理生成。
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/31547898/viewspace-3189759/ ,如需转载,请注明出处,否则将追究法律责任。