每隔一段时间,企业的 AI 项目负责人看着账单总会陷入沉思,看到Token 用量又涨了,与此同时流程跑的还是那几个固定的任务,无非是下载几张报表、字段对齐、金额加总、归档并发通知,看吧,任务几乎没变,账单却一直在涨。
这件事的问题,其实主要出在分工上。
Gartner 在 2026 年相关分析中指出,Agentic Workflow 完成一项任务消耗的 Token,可能达到普通生成式 AI 交互的 5—30 倍。Agent 需要反复规划、调用工具、读取返回结果、校验甚至重试,一次业务请求很容易变成连续多轮模型调用。
所以企业碰到智能体 Token 消耗过高时,先不要着急,我们可以先看看这三件事:
这三件事对应的优化方式并不相同,固定流程可以交给代码、API、RPA 或工作流,长文档和大批检索结果可以先解析、筛选,重复上下文可以评估缓存,换轻量模型则主要影响价格。
一个完整的智能体流程,通常同时包含理解、判断和执行。

比如解释一段异常数据为什么偏离历史均值,从政策文件中筛出适用于当前企业的条款,或者判断一封客户邮件属于投诉还是咨询,这些任务需要模型理解语义和处理变化。
另一部分工作则很稳定:A 列除以 B 列、删除重复记录、生成固定格式 Excel、按照统一名称保存到指定目录。
经营日报就是一个典型例子。
每天从三个业务系统取数,字段映射关系固定,汇总逻辑固定,归档路径也固定。流程搭建第一天已经确认过的步骤,如果每次运行还要重新让模型决定“先取什么、怎么算、存哪里”,Token 就会不断消耗在重复规划上。
这类步骤其实可以直接交给程序和自动化工具。扣子的代码节点支持接收上游参数,用 Python 或 JavaScript 做字段处理;百度 AppBuilder 的工作流也可以把固定逻辑、API、知识库和模型节点放进同一条流程里。
企业原有自动化场景里已经有不少类似实践,莲藕健康公开披露的应用就包括平台推广日报、客服日报和月度数据获取。
对于已经跑稳定的高频任务,模型可以继续负责识别“昨天”“华南区域”“销售异常”等自然语言参数,后面的取数、去重、汇总、归档和通知则继续沿用既有流程。
国内流程自动化厂商也在沿着这条路线演进,比如金智维就将大模型的意图理解、任务拆解与结构化流程、RPA 执行、规则校验组合在同一条业务链路中,已经验证过的高频流程可以继续封装、复用。这类“构建阶段引入智能能力、执行阶段复用成熟流程”的方式,对日报、对账、数据归档、信息搬运等高频任务尤其适用。它节省的并不是所有 Token,而是 减少了稳定执行环节反复调用大模型进行规划的必要。
有些流程模型调用次数并不多,Token 依然很高,问题通常出在输入量。

比如在合同审查场景中,用户原本只想确认合同里有没有自动续约条款,系统却把几十页正文一起送进模型;知识库检索出十几段材料后全部拼进 Prompt,最终真正影响答案的可能只有其中几句话。
这类消耗发生在进入生成模型之前。
扫描件可以先做版面、文字和表格解析,长文档根据问题检索相关内容,再对候选片段进行筛选和重排。
PaddleOCR 团队的 PP-StructureV3 可以将文档中的版面、文字、表格等内容转成结构化结果;Rerank 工具则可以继续调整候选材料与当前问题的相关性顺序。于是生成模型接收到的,不再是整份文件,而是和当前问题直接相关的原文片段及必要上下文。
这也是 RAG 场景里一个经常被忽略的成本来源: 检索不仅要解决“找不找得到”,还要控制最后有多少内容真正进入模型。
不过输入不能为了省 Token 一味压缩。合同金额、日期、否定条件、适用范围和例外条款一旦被裁掉,后面的判断可能直接改变含义。上下文压缩本身可能产生新的模型消耗,金额、时间范围、关键约束和原始记录位置仍然需要保留。所以这里的优化目标更接近 “减少无关输入”,而不是简单追求更短。
企业讨论“Token 降本”时,经常把这几种不同的优化方案混在一起:
把固定计算、格式转换、数据搬运等步骤交给代码、API 或 RPA,可以减少原本用于这些步骤的模型调用。长文档先检索、筛选和重排,也能缩短真正进入生成阶段的上下文。这类调整会直接影响 Token 数量。
DeepSeek 等模型服务已经提供前缀缓存机制。当系统 Prompt、背景材料等输入前缀高度重复,并满足缓存条件时,可以复用已有计算。缓存命中的输入依然有相应 Token 统计和计费口径,它减少的是重复计算,并不等于把上一次答案直接拿回来。
轻量模型、不同推理模式或者供应商提供的批处理优惠,都可能让最终账单下降。但同一条 Prompt 从高价模型换成低价模型,Token 数量本身可能完全没有变化。因此企业看到“成本下降”后,还要继续看看这些:到底是模型少调用了,输入变短了,缓存命中了,还是模型单价变便宜了?这几类优化可以一起使用,但不能放进同一个“Token 降低比例”里计算。
Agent 接入的工具越来越多以后,还有一类消耗很容易被忽略。

每个工具都有名称、参数、说明和返回格式,模型在决定调用哪个工具之前需要理解这些定义,工具执行完成以后,又可能返回一大段 JSON。
如果一次订单查询返回上百个字段,而后续任务只需要金额、状态和更新时间,把整份结果原样交给模型,只会增加上下文。
Tomasz Tunguz 在 2025 年做过一次个人工程实验,将原来的多个细分工具重新整合后,他测试中的 Token/Op 明显下降,同时任务成功率有所提升。这个结果为我们提供了一个很有价值的观察: 工具数量、工具说明和返回结果本身,也会成为 Agent 的上下文成本。
企业流程里可以用更简单的方式处理这件事,例如按需加载工具,接口结果先由程序过滤,只把后续任务需要的字段传给模型。模型调用的次数可能没变,但每轮需要理解的信息少了。
一条流程从 10 万 Token 降到 5 万,看起来已经节省了一半,但如果新增的 RPA 脚本需要频繁维护,OCR 识别问题带来更多人工复核,或者 RAG 裁掉了关键证据,最后又触发完整重试,这个数字就不够用了。因此验证 Token 优化,最好放回一批完整任务里比较。
可以选取正常、边界和异常样本,在相同业务完成标准下,同时观察以下这些数据:
建议用同一批任务建立改动前后的比较基准,避免只展示热缓存、顺利用例或者某一次调用的 Token 降幅。
对企业来说,Token 最终只是完整运行成本的一部分,如果每天都在执行同一套报表下载、字段计算和系统操作,这些稳定动作可以逐步沉淀为程序、API、RPA 或流程资产;文档和检索结果在进入模型前先筛选;真正出现新问题、新材料和异常时,再调用模型的理解和判断能力。这样拆开以后,Token 账单里哪些钱花在必要的智能上,哪些钱只是花在重复执行上,就会清楚很多了。
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70047400/viewspace-3186379/ ,如需转载,请注明出处,否则将追究法律责任。