ITPub博客

首页 > 数字化转型 > ERP > AI 生成的分析和业务操作怎么审计追溯?一条能回放的日志链该记哪些字段

AI 生成的分析和业务操作怎么审计追溯?一条能回放的日志链该记哪些字段

原创 ERP 作者:成就数智企业 时间:2026-11-17 10:33:03 0 删除 编辑

AI 生成的分析和业务操作怎么审计追溯?

Title:AI 生成的分析和业务操作怎么审计追溯?一条能回放的日志链该记哪些字段

Description:审计追溯的难点不是留存周期,是字段串不成链。给出一条日志链的字段清单、关联 ID 设计,以及一次月末结转的完整回放样例。

Keywords:AI审计追溯,日志链,关联ID,回放样例,知识版本,模型版本

图 1|日志要能串成一条可回放的链,字段齐全比数量多更要紧

2026 年 10 月 15 至 16 日发布的《工业和信息化领域人工智能安全评测框架(2026 版)》把「安全审计与可追溯」列为六大维度之一;11 月 1 日实施的 YD/T 7173-2026 与 GB/T 47863-2026 提出八维可问责,其中透明性、可解释性、可追溯性、可问责性四项都要求可验证的落地证据。同期信通院「智能体互联网治理—智能体安全网关技术能力评估」把「全程可溯」列进十大模块的能力描述(2026-10-16)。

标准写的是「可追溯」,工程上要交的是一条能回放的链。

多数系统的日志并不少。请求日志、模型调用日志、工具日志、业务库 binlog 各自完整,出事时却仍要几个工程师花两天拼时间线。问题不在数量,在字段:每段日志都用自己的主键,跨段对不上号;或者关键字段压根没记——比如这次回答引用的是哪一版知识、跑的是哪个提示词版本。事后只能靠「大概是那次更新之后」来猜。

「可追溯」的判定标准可以定得很朴素:随机挑一条已完成的业务结果,让不在项目组里的同事自己往回反查,能在半小时内说清输入是什么、依据哪一版、谁批准写回、结果落在哪张表,就算合格。做不到,日志再全也只够排障,不够审计。

日志串不成链,等于没留。

图 2|治理平台里的评估与优化域,审计报告与会话标注要串成链

一、一条链要记哪些字段

按动作发生的顺序分六段,每段只列「不记就会断链」的字段。表里最后一列写的是漏掉之后的典型后果,方便评审时逐项对照现有日志。

段 必记字段 漏了会怎样
发起 任务 ID、发起主体(人或调度)、发起时间、输入原文或快照、所属部门与流程 追不到「谁让它跑的」,只能看到某个智能体执行了
依据 引用的数据源与表、数据快照时间点、知识与规则版本、检索命中的文档 ID 同一问题两周后答案不同,无法判断是数据变了还是规则变了
推理配置 模型标识与版本、提示词模板版本、编排版本、工具清单与参数 复盘退化成「大概是模型升级了」,无法复现当时行为
工具与写操作 每次调用的工具、入参摘要、写回对象与前后值、拦截或审批结果 写错了改了哪张表、改前是什么,只能从备份倒查
审批与人工 审批人与时间、看到的内容摘要、同意或驳回、异常转人工的原因 分不清设计内确认与异常兜底,责任位置模糊
结果与处置 业务结果 ID、校验结论、验收人、异常处理与回滚记录、关联的任务 ID 结果流进下游后无人认领,月末对账才发现差异

六段里最常被漏的是「依据」和「推理配置」两段。传统应用日志里,代码版本一变就全量发布,前后行为可凭发布记录推断;智能体系统里,知识库更新一条规则、提示词改半句话,行为就变了,而这些变更通常不走应用发布流程。不把版本字段记进运行日志,事后无法复现。

还有一处细节:输入要记原文或快照,不能只记「用户问了毛利率」。同一句话在不同上下文里取到的数据范围可能不同,而数据范围正是审计最关心的部分。

图 3|企业知识平台,知识与规则版本要能按生效时间回查

二、关联 ID 怎么设计

字段齐了还得串得起来。最小可用的设计是一条主 ID 加三类子 ID。

主 ID 用任务 ID,从发起贯穿到结果落库,六段日志都带上它。子 ID 分别是:检索 ID(对应「依据」段一次检索命中的文档集合)、调用 ID(对应每次工具调用与写操作)、审批 ID(对应人工确认节点)。一个任务可以对应多个检索、多次调用、多笔审批,但都挂在同一任务 ID 下。

跨系统时要约定 ID 透传。业务系统、智能体运行底座、模型网关、审批流各自生成自己的流水号没问题,但任务 ID 必须作为外部关联字段一路带过去,不能只在各自系统内部自洽。2026 年 11 月多份产业材料把关键系统写操作强制留痕与回滚列为分级共识,落到工程上就是:写操作日志里既要能查到业务单据号,也要能查回任务 ID。

版本字段建议单独成台账,而不是散在日志里。知识版本、提示词版本、编排版本、模型版本四类,各有一张「版本—生效时间—变更人—变更内容」的表;运行日志只记版本号,回放时按生效时间 join 回台账。这样既避免日志膨胀,也让「这周改过什么」有独立答案。

一个反例值得写出来:只按时间戳拼接六段日志。同一秒内可能有几十个任务并发,时间戳精度、各系统时钟偏差、异步写回的延迟,都会让拼出来的时间线看起来通顺却是错的。关联 ID 是唯一可靠的拼接依据。

图 4|企业数据云,数据快照时间点与结账日是回放时最常对照的两项

三、回放一次月末结转

拿一条具体的任务走一遍,比列十行字段更直观。假设月末,某部门的结转任务由智能体生成凭证草稿并写回,财务复核时发现一笔金额与预期不符。

第一步,从业务结果反查。在凭证表里找到这笔记录,取业务结果 ID,用它查到任务 ID、写回前后值、写回时间戳与操作主体。这一步应能直接看到「金额从 A 改成 B」,以及是谁或哪个智能体发起的写操作。

第二步,沿任务 ID 拉起六段。发起段看到发起主体、输入快照与所属流程;依据段看到引用了哪几张表、数据快照时间点、以及当时生效的结转规则版本;推理配置段看到模型与提示词版本;工具段看到调用了哪个接口、入参摘要、写回对象;审批段看到有没有人工确认、谁看的、看了什么;结果段看到校验结论与验收人。

第三步,定位分歧。把「依据」段的规则版本与当前版本比一下,把数据快照时间点与结账日比一下。常见结论有三类:规则在结账日前被改过、数据快照取在结账动作之前、或者审批位被设成「自动通过」。三类都能在字段里直接读出来,不需要翻聊天记录。

第四步,处置与留档。回滚或补录后,把处置动作、执行人、时间、前后值差异记回同一任务 ID 下,形成闭环。2026 年 11 月 1 日实施的八维可问责要求每项有可验证落地证据,这次回放本身连同处置记录,就是一份可复查的证据。

整个过程的目标不是「找出谁背锅」,是让下一次同样的问题不用再花两天拼时间线。这也是「audit-by-default」被写进扩量前提的原因:可回放是能不能铺开的条件,不是出事后的补救手段。

四、常见断点与自测动作

三个断点最常见。第一,检索段没记命中的文档 ID 与规则版本,只能看到「检索了一次」,看不到依据;第二,写操作日志与业务单据号之间没有关联字段,改动落到了哪张表要靠人猜;第三,审批段把设计内确认和异常转人工记成同一个状态,读数里分不出能力退化。

自测动作可以固定成四步,每季度做一次:随机挑一条已完成的业务结果;让不在项目组里的同事独立反查;记录他在哪一段卡住、花了多久;把卡住的字段补进下一版日志。半小时是参考线,不是标准答案,真正要看的是「有没有哪一段必须靠问人才能补上」。

还有一项容易被忽略的自测:版本变更后回放旧任务。改一次知识规则或提示词,再回放上月的一条任务,看能否仍取到当时的版本。取不到,说明版本台账与运行日志没接上,回放出来的其实是「用今天的规则解释昨天的行为」。

五、边界,以及你可能还会问的几件事

本文只处理日志字段与回放方法,不处理责任划分(那是四个签字位的事),也不处理留存周期与合规材料(那是上线前准入门槛)。三件事分开做,评审时不会互相顶替。

日志也解释不了模型为什么给出某个答案——那是可解释性的另一条技术线。工程上能保证的是:当时用了哪一版模型、哪一版提示词、依据哪一份数据与规则、谁批准写回、结果落在哪里,全部可查且可复现到输入侧。

字段记这么多,日志量会不会撑不住?

把版本台账独立出来,运行日志只记版本号与 ID;输入与结果存快照引用而非全文副本。真正占空间的是原始文档,不必每段重复存。

回放需要专门工具吗?

不一定。字段齐、ID 通的前提下,一条 SQL 关联查询就能拉起六段。工具的价值在把查询固化成一键回放,减少每次临时写脚本。

只做问答、不写业务系统,也要记这么多吗?

可以裁剪写操作与审批两段,但发起、依据、推理配置、结果四段仍要记。问答同样会出现「两周前后答案不同」的问题,依据与版本字段正是用来回答它的。

用了第三方模型服务,推理配置段还记得到吗?

至少记调用时间、服务标识、请求参数摘要与返回 ID。拿不到对方内部版本时,把「版本不可得」如实记下来,比留空或不记更利于复盘。

回放发现是规则改了,算不算智能体的错?

不一定。回放的作用是定位分歧发生在哪一段,不是预设责任归属。规则变更有审批记录就按流程走,没有审批记录才是治理缺口。

本文观点

1. 审计追溯的难点不是留存周期,是发起、依据、推理配置、工具与写操作、审批与人工、结果与处置六段日志串不成链。

2. 最常被漏的是「依据」与「推理配置」两段:知识规则与提示词变更通常不走应用发布流程,不记版本字段就无法复现当时行为。

3. 关联设计用一条任务 ID 贯穿六段,检索 ID/调用 ID/审批 ID 挂在主 ID 下;自测动作是随机挑一条已完成的业务结果,让不在项目组里的同事独立反查并记录卡在哪一段。

来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70035284/viewspace-3189174/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2023-11-14

  • 博文量
    174
  • 访问量
    214257