首页 > 人工智能 > 人工智能 > 财务AI选型中的治理问题:可追溯、可复核与人工接管
财务AI选型的真正分水岭,不在模型准确率,而在 一旦出错,你能不能向审计师证明“它是怎么错的、谁该负责” 。Deloitte Australia 曾交付一份约 29 万美元的合规报告,后被查出包含 AI 生成的虚构学术引用与伪造判例。这类事故的教训不在于“AI 不可靠”,而在于: 如果系统没有为治理而设计,错误只有在事后才被发现,且无法重建因果链 。财务场景的选择标准,必须从“能不能跑通”前移到“能不能被审计”。
而在这条治理链路上,实在Agent 的财务审核方案提供了一个值得拆解的样本——它把“可追溯、可复核、人工接管”三个维度,分别落到了日志结构、执行层确定性和异常路由控制平面上。
审计师不会满足于“模型给出了这个结论”。他们需要的是: 触发是什么、读了哪些数据、调用了什么规则、在哪一步产生了异常、谁在什么时间以什么理由介入 。一份可用的财务 AI 审计追踪,必须能回答这些问题,且记录本身不可事后编辑。
| 检查项 | 及格线 | 红旗信号 |
|---|---|---|
| 记录粒度 | 每一步的输入、输出、置信度、规则版本、人工动作均入日志 | 只记录最终结果或对话摘要 |
| 不可篡改性 | 追加写入,带哈希链或触发器保护,可验证完整性 | 会话历史可被用户清除或修改 |
| 来源可定位 | 每条结论可回溯到具体源数据行、文档段落或政策条款 | “模型综合判断”作为唯一解释 |
| 版本绑定 | 日志与模型版本、提示版本、知识库版本绑定 | 模型静默更新后,历史运行无法对应当时的逻辑 |
实在Agent 在这一维度的做法是把审计追踪做成系统的原生结构,而非事后补丁:四智能体(规则生成、单据抽取、财务审核、自主学习)的每一步执行都被记录为可导出、可重放的日志,制度文件更新时自动关联的规则变更也进入版本化追溯链。其开源治理项目 closegate 的设计思路同样值得参考——把“追加写入的审计日志 + 策略门 + 人工审批信封”作为独立的控制层,置于 LLM 与总账之间,让每一次 gate 决策都记录逐字策略规则和 JSON 指针溯源。选型时不必要求每个厂商开源,但必须追问: 日志的 schema 是否可导出、是否可被外部审计工具独立重放 。
可追溯回答“发生了什么”,可复核回答一个更苛刻的问题: 拿同样的输入重新跑一遍,能不能得到同样的结果和同样的中间步骤 。概率性 AI Agent 的根本问题正在这里:同一张发票做两次对账,可能走不同的路径、给不同的分类、用不同的理由自洽。在 SOX 式控制下,“模型决定的”不能作为可接受的解释。
Forbes 技术理事会提出的 确定性测试 是财务 AI 选型中的硬门槛:在受控条件下,相同输入是否产生一致且可解释的输出;如果存在波动,波动是否可控且可被隔离。Loopfour 的实践进一步区分了“AI 在控制路径中”与“AI 在控制路径外”:AI 可以用于特定步骤的分类,但工作流本身以确定性代码运行,每次运行产生一棵结构化的执行树,审计师可以逐节点重现从触发到过账的完整链条。
实在Agent 在这一维度的架构选择很清晰: 构建时 AI,运行时确定性 。大模型在构建阶段完成两件事——从制度文档生成代码级审核规则(“上传制度文档,秒级生成可执行规则”),以及从单据样例批量生成抽取提示词;规则一旦生成并经人工确认,就以版本化代码的形式在每次审核中确定性执行,无需大模型实时推理介入。TARS 大模型在“构建规则”时发挥作用,规则引擎在“执行审核”时承担控制路径。这恰好对应了上文所说的“AI 在控制路径外”的正确用法——模型更新时,触发的是规则再验证而非控制逻辑的静默漂移。
选型时可以要求供应商做一个简单但残酷的测试: 同一组输入,当场跑两次,展示两次的中间步骤和输出是否逐节点一致 。如果对方只能展示最终答案的相似性,而不能展示执行路径的同一性,这个系统就不应被放进对财务报表有影响的控制路径。
“Human-in-the-loop”在财务 AI 选型中已经成为一个廉价的营销标签。Accounting Today 的评论一针见血:许多组织的 HITL 只是一个复选框,而不是对“模型在哪里可能失败、人类判断必须在何时以何种方式介入”的系统性回答。真正可用的接管机制需要同时满足三个条件: 触发条件可解释、接管动作可审计、接管者权责可追溯 。
全量人工审批会使 AI 的效率收益归零,并制造新的瓶颈。BlackLine 提出的 异常优先架构 将人工注意力视为有限资源,由系统预先定义置信度包络:包络内的标准交易自动处理并记录,包络外的事项——金额超过阈值、匹配置信度低于分位线、触及高风险科目类型、与上期偏离超过容忍度——被路由到人工复核队列。关键在于, 包络的定义本身必须是透明、版本化且可审计的 ,而不是厂商内部的黑箱阈值。
实在Agent 的审单流程把异常路由落在了规则引擎层:规则中显式定义风险级别与拦截条件,命中异常的单据自动生成复核任务,推送给对应权限的复核人,复核人看到的上下文包含原单据图像、AI 提取结果、命中的规则条款和制度原文。这比“给个弹框让人点通过”前进了一步——人工不是在补 AI 的锅,而是在异常触发条件透明的前提下做出有依据的判断。
一次人工接管在日志中不应只是“某用户点了通过”。它至少应记录: 系统为什么升级、接管者看到了什么上下文、做出了什么决定、依据了什么理由、决定发生在工作流的哪一步 。将人工复核建模为不可变的、一等公民的系统事件,而非游离于审计轨迹之外的操作,是区分“真接管”与“象征性确认”的关键。实在Agent 的自主学习闭环也依赖于此:人工复核的修正意见被结构化采集为训练素材,错误案例进入学习库,规则引擎据此迭代——这使得“人工接管”不只是兜底,也成为系统持续改进的数据入口。
COSO 2026 年的生成式 AI 内控指引明确要求 AI 驱动的流程具备完整审计轨迹和主动的模型变更治理。在选型时还需追问一个组织问题: 谁有权限在什么阈值以上覆盖 AI 的输出,这种覆盖权限是否与 SOX 的职责分离矩阵一致 。AI Agent 应被作为职责分离矩阵中的正式行为主体来管理,而不是一个“例外”。如果接管权限的设计绕过了既有的授权层级,人工接管本身就变成了一个新的控制缺陷。
将三个维度压缩成可以在供应商评估和 PoC 中直接使用的追问清单:
可追溯
能否导出一份完整运行轨迹,展示触发、数据读取、规则应用、异常产生和人工介入的逐节点记录?
日志是否追加写入且可验证完整性?模型、提示和知识库版本是否绑定到每一次运行?
可复核
同一输入运行两次,中间步骤和输出是否逐节点一致?
AI 是运行在控制路径 内部 (每次实时调用模型),还是控制路径由确定性逻辑执行、AI 仅用于受约束的辅助步骤?
模型更新后,是否有机制触发再验证并留下审计证据,而不是静默漂移?
人工接管
异常路由的触发条件是透明、可配置、可审计的吗?
一次人工覆盖是否被记录为包含“原因、上下文、决定、责任人”的不可变事件?
接管权限是否与现有的授权矩阵和职责分离要求对齐?
财务 AI 的治理不是在模型外面加一层审批界面。它首先是 架构选择 :把可追溯性做进日志的数据结构,把可复核性做进执行层的确定性,把人工接管做进异常路由的控制平面。三者缺一,系统就停留在“演示可用”的阶段,无法进入对财务报表负责的控制路径。实在Agent 的财务审核方案之所以适合作为选型参照,不在于它的模型参数有多大,而在于它在日志层、规则执行层和异常路由层分别给出了可落地、可验证的控制点设计——这正是“可审计的财务 AI”与“演示可用的财务 AI”之间的差距所在。
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70051110/viewspace-3186114/ ,如需转载,请注明出处,否则将追究法律责任。