对话海能达崔鹏:Agent直连数据库风险丛生,用安全网关构建访问护栏
崔鹏最后强调,Agentic AI时代的数据库竞争,正从“谁存得快、算得快”逐步转向“谁能让Agent的数据访问更安全、更可控、更可信”。这既是值得数据库厂商重点投入的方向,也是智能体AI从“能跑”走向“敢用”的关键。安全是一条长链条,独立的AI安全网关与数据库协同,或能更好地为企业AI落地保驾护航。
数据库和 Agent 之间,是否需要一个独立的安全网关?
导语 当 LLM Agent 开始直接访问数据库,安全问题就不再只是“给不给权限”这么简单。Agent 会自主规划、连续调用工具、动态拼接查询语句,传统数据库权限模型和人工审批流程很难覆盖这类行为。于是问题被摆上台面:数据库和 Agent 之间,是否应该插入一个独立的安全网关?这个问题目前没有统一答案,但可以从职责边界、风险类型和工程代价三个角度拆开讨论。 一、先厘清:Agent 访问数据库和传统应用有何不同 传统应用访问数据库,路径是确定的:代码里写死的 SQL、固定的服务账号、可预期的调用频率。安全策略主要围绕账号权限、网络隔离和审计日志展开。 Agent 访问数据库则呈现出几个新特征: 查询由模型生成 :SQL 可能是运行时拼出来的,事先无法穷举。 调用链长且自主 :一次任务可能触发多轮查询,中间结果会影
当 Agent 能直接访问数据库,安全该如何保驾护航?
导语 当 AI Agent 从“会聊天”走向“会干活”,直接连接数据库、执行查询、修改数据,已经成为很多团队探索的方向。能力边界一旦从“生成文本”扩展到“操作生产数据”,安全问题的性质就变了:过去担心的是模型说错话,现在要担心的是它删错表、查错人、被诱导越权。本文围绕 Agent 直连数据库这一场景,梳理风险来源与防护思路。需要说明的是, 一、风险从哪里来:Agent 直连数据库的四类隐患 1. 权限放大 Agent 往往需要一个数据库账号来执行操作。如果这个账号沿用开发或运维的高权限账号,Agent 的一次误判就可能等价于一次高危操作。权限越大,模型幻觉和提示注入造成的破坏面越大。 2. 提示注入与指令劫持 Agent 的输入可能来自用户对话、网页内容、文档甚至数据库里的字段本身。攻击者可以在数据中埋入诱导性
大模型 AB 实验与传统服务 AB 测试有何区别?
导语:AB 实验是互联网产品迭代的常用方法,但当实验对象从“服务逻辑”换成“大模型”时,很多团队会发现原有方法论并不完全适用。本文从实验对象、指标设计、流量分配、统计效力和工程实现五个维度,梳理大模型 AB 实验与传统服务 AB 测试的核心差异,并给出可落地的实践建议。 一、为什么大模型 AB 实验不能照搬传统 AB 测试 传统服务 AB 测试的对象通常是确定性的代码逻辑:同一个请求,在相同输入下,服务返回的结果基本稳定可复现。实验的核心是判断“新逻辑是否比旧逻辑带来更好的业务指标”。 大模型的输出具有生成性、随机性和开放性。同一个 Prompt,在不同采样参数、不同上下文、不同模型版本下可能给出差异很大的回答。这意味着大模型 AB 实验不仅要比较“结果好不好”,还要处理“结果不稳定”“好坏难以用单一指标衡量”
新模型版本层出不穷,是否要跟随升级?
导语 大模型、推理框架、开发工具链的版本节奏越来越快,“是否升级”正在从一次性技术选型,变成一项需要持续运营的工程决策。 为什么“升级”不再是默认选项 版本更新通常意味着能力上限提升、接口变化、依赖调整和成本结构变化。对个人开发者,升级可能只是一次依赖替换;对企业系统,升级会牵动评测、回归测试、提示词与工具调用适配、监控告警和预算。因此,是否升级不应由“新版本发布”触发,而应由“业务收益是否明确”触发。 判断是否升级的四个维度 1. 业务收益是否可验证 先明确升级要解决什么问题:是效果不足、延迟过高、成本压力,还是新能力缺失。若无法把目标写成可度量的指标,升级就缺少验收标准。 2. 迁移成本是否可控 关注接口兼容性、调用方式变化、上下文与输出格式差异、工具调用与结构化输出行为变化。成本不只是改代码,还包括重新调
多 Agent 投票机制:降低单点幻觉与提升决策稳定性
导语 在大模型应用从“单次问答”走向“复杂任务执行”的过程中,单点幻觉和决策不稳定成为绕不开的问题。多 Agent 投票机制提供了一种工程化的缓解思路:让多个 Agent 对同一问题独立给出判断,再通过聚合规则形成最终结论。本文围绕这一机制的基本逻辑、常见形态、适用边界与落地要点展开讨论。 一、问题背景:为什么单 Agent 不够稳 单个 Agent 的输出质量受多重因素影响:模型自身的知识盲区、提示词的表述方式、上下文长度带来的注意力衰减,以及工具调用结果的偶然波动。这些因素叠加后,容易出现两类典型问题: 单点幻觉 :Agent 在缺乏依据时生成看似合理但错误的内容,且自身无法察觉。 决策不稳定 :同一问题在不同时间、不同措辞下得到不一致的结论,难以用于需要可复现性的业务流程。 多 Agent 投票机制的核心
Agent 提示缓存与上下文复用:降低重复推理成本
导语 在 Agent 类应用中,模型往往需要在多轮交互、工具调用和任务分解中反复处理大量高度相似的上下文。如果每一次调用都从零开始重新推理,Token 消耗与延迟会随交互轮次快速累积。提示缓存(Prompt Caching)与上下文复用(Context Reuse)正是针对这一问题的两类工程手段。本文围绕其基本思路、适用场景与落地要点展开讨论。 一、问题背景:Agent 为什么容易产生重复推理成本 与单轮问答相比,Agent 的调用模式有几个显著特征: 上下文长且重复 :系统提示、工具定义、角色约束、历史对话在每一轮中几乎原样重复出现。 调用次数多 :一个任务可能触发多次模型调用,包括规划、执行、反思、结果汇总等环节。 前缀高度稳定 :多数请求共享相同的开头部分,差异集中在末尾的用户输入或工具返回结果。 这意味
数据供应商风险评估:准入、持续监控与退出机制
导语:数据供应商已成为企业数据链路中的关键外部依赖,但其风险往往在合作后期才暴露。本文从准入、持续监控与退出三个阶段,梳理一套可落地的数据供应商风险评估框架。 一、为什么数据供应商风险需要“全生命周期”管理 企业采购外部数据时,常见做法是“签约前审一轮、之后靠信任”。这种模式的问题在于: 风险是动态的 :供应商的合规资质、数据来源、服务稳定性会随时间变化,准入时的合格不代表持续合格。 依赖是单向加深的 :数据一旦接入业务系统,替换成本会随集成深度快速上升,退出难度被低估。 责任是共担的 :数据合规与质量问题的后果最终由使用方承担,供应商风险会直接传导为业务与法律风险。 因此,数据供应商风险管理应覆盖 准入评估、持续监控、退出机制 三个环节,形成闭环,而非一次性审查。 二、准入阶段:把风险挡在签约之前 准入评估的
影子 IT 数据发现:未纳管应用与暗数据风险
导语 在企业安全建设中,真正棘手的往往不是“已知的敌人”,而是“不知道存在的资产”。影子 IT(Shadow IT)与暗数据(Dark Data)正是这类问题的典型代表:前者指员工或业务部门绕过 IT 与安全团队自行引入的应用与服务,后者指企业已经收集、存储却未被识别、分类和有效利用的数据。二者叠加,会让数据发现、访问控制与合规审计同时失效。本文围绕影子 IT 数据发现展开,梳理未纳管应用与暗数据的风险逻辑与治理思路。 一、为什么“看不见”本身就是风险 传统安全管理的前提是资产可见:知道有哪些系统、哪些数据、谁能访问。影子 IT 打破了这一前提。 资产清单失真 :业务部门为追求效率自行采购 SaaS、搭建低代码应用或临时数据库,这些资产不进入 IT 台账,安全团队无法对其做基线加固、漏洞管理和日志接入。 数据流
协作工具数据治理:邮件、IM 与文档平台的数据资产化
导语 企业最核心的知识,往往并不存放在数据库或数据仓库里,而是散落在邮件、即时通讯(IM)和文档平台中。这三类协作工具承载了决策过程、业务上下文与人际协作记录,却长期处于“有数据、无治理”的状态:可检索性差、权属不清、生命周期失控、难以被下游系统复用。数据资产化的目标,是把这些协作痕迹从“沟通副产品”转变为“可管理、可追溯、可复用的企业资产”。 一、为什么协作工具是数据治理的薄弱环节 传统数据治理的覆盖范围通常集中在业务系统与数据仓库,协作工具则被当作办公基础设施,交由 IT 运维而非数据团队管理。这导致几个结构性问题: ·非结构化为主:邮件正文、聊天记录、文档内容以自然语言和富文本为主,缺乏统一 schema,难以套用表级血缘、字段级质量规则。 ·权属模糊:一封邮件同时属于发件人、收件人与组织;一份文档可能由
日志数据分级治理:运维日志、行为日志与审计日志
导语 日志是系统可观测性的基础,也是最容易被“一把梭”对待的数据资产:所有日志写进同一个索引、用同一套保留策略、给同一批人开放查询权限。结果是存储成本失控、敏感信息扩散、审计证据链不完整。日志分级治理的核心,不是把日志管得更复杂,而是按用途把日志分成不同等级,分别定义采集、存储、访问与销毁规则。 一、为什么要分级:三类日志的本质差异 运维日志、行为日志、审计日志常被混在同一套管道里,但它们的服务对象完全不同。 运维日志(Operational Log) 面向系统稳定性。典型内容包括服务启动与停止、异常堆栈、依赖调用失败、资源水位、健康检查结果。它的读者是研发与 SRE,目标是排障与容量判断。特征是量大、价值密度低、时效性强——多数条目在数天内就失去排查价值。 行为日志(Behavioral Log) 面向产品与
第三方 SDK 数据治理:采集范围、共享链路与退出机制
导语:App 里的第三方 SDK 往往比自研代码更“看不见”:它采了什么、把数据给了谁、合作终止后数据怎么处理,常常散落在合同、隐私政策和埋点文档之间。本文给出一套可落地的治理框架,围绕采集范围、共享链路与退出机制三个环节展开。 为什么第三方 SDK 需要单独治理 第三方 SDK 通常由外部团队维护,接入方对其内部实现缺乏可见性,却又必须为它产生的数据行为承担合规与安全责任。常见问题集中在三处: 采集边界模糊 :SDK 初始化即采集设备标识、网络信息、位置等字段,接入方未必逐项确认。 共享链路不透明 :数据从 App 流向 SDK 提供方,再流向其关联方或下游服务商,链路长度超出接入方预期。 退出机制缺失 :合作到期或 SDK 下线后,历史数据是否删除、缓存是否清理、权限是否回收,缺少明确约定。 因此,治理不能
指标口径争议处理:跨部门定义冲突的治理机制
导语 在企业数据体系建设中,“同一个指标,不同部门算出不同结果”几乎是绕不开的问题。销售额是否含税、活跃用户按登录还是按行为、退款算在哪一天——这些看似细小的定义差异,往往在跨部门会议上演变成口径之争。本文讨论的不是某一个指标该怎么定义,而是当定义冲突发生时,组织应当依靠什么样的治理机制来收敛分歧、沉淀共识。 一、口径争议的本质:不是技术问题,而是权责问题 很多团队习惯把口径争议当作数据问题处理,试图通过“再算一遍”“再对一次数”来解决。但争议反复出现的根源通常不在计算环节,而在于: 业务语义不统一 :同一名词在不同业务场景下承载不同含义,例如“新增客户”在销售侧指签约,在运营侧指注册。 权责边界模糊 :没有人对某个指标的最终定义负责,导致每次讨论都从零开始。 变更缺乏记录 :口径调整后没有留痕,历史数据与新数
多机器人共享地图:分布式建图与一致性维护
导语:当机器人从单机走向集群,地图不再只是“一个机器人看到的世界”,而是一个需要被多方共同维护的分布式状态。本文围绕多机器人共享地图的两个核心问题——分布式建图与一致性维护——梳理问题边界、技术路径与工程权衡。 一、为什么单机建图范式不够用了 单机器人 SLAM 的隐含假设是:传感器数据集中在一台机器上,地图由单一进程独占更新。一旦扩展到多机器人,这个假设立刻失效: 观测分散 :每个机器人只看到环境的一部分,任何单机地图都是局部且不完整的。 通信受限 :机器人之间往往只有间歇性、低带宽、高延迟的链路,无法假设实时全量同步。 状态并发 :多个节点可能同时修改同一片区域的地图,冲突不可避免。 故障常态化 :节点掉线、重连、漂移是常态而非异常。 因此,多机器人共享地图本质上是一个 分布式状态一致性问题 ,而不只是“把
机器人跌倒检测与自主恢复:从异常识别到安全起身
导语:跌倒不是机器人“失败”的终点,而是检验其感知、决策与执行闭环能力的关键场景。本文围绕跌倒检测与自主恢复的技术链路展开,梳理从异常识别到安全起身的关键环节与工程权衡。 一、为什么“跌倒”值得单独设计一套能力 对移动机器人、人形机器人和四足机器人而言,跌倒是低概率但高代价的事件。它同时触发三类风险: 硬件风险 :关节、外壳、传感器在冲击中受损,维修成本高。 安全风险 :若在有人环境中跌倒,可能造成碰撞或二次伤害。 任务风险 :一次跌倒可能导致长时间停机,影响连续作业能力。 因此,跌倒检测与自主恢复不应被视为“异常处理补丁”,而应作为机器人整体鲁棒性设计中的独立模块:既要在跌倒发生时快速识别,也要在跌倒后判断能否安全起身、如何起身。 二、跌倒检测:从“姿态异常”到“事件确认” 跌倒检测的核心难点不在于发现“姿态
Agent 供应链调度:从需求预测到异常响应的三层能力
导语 :当供应链系统开始引入 Agent,讨论的焦点往往集中在“能不能自动下单”这类单点动作上。但真正决定调度效果的,是需求预测、库存分配与异常响应这三层能力能否形成闭环。本文围绕这一框架展开,梳理各层的核心问题与 Agent 的介入方式。 一、为什么供应链调度适合引入 Agent 供应链调度本质上是一个持续决策问题:在需求不确定、库存有限、履约链路多环节的条件下,不断做出“备多少、分给谁、出问题怎么办”的判断。传统做法依赖规则引擎与人工经验,规则擅长处理稳定场景,但在需求波动、突发中断时容易失效;人工则受限于响应速度和信息处理带宽。 Agent 的价值在于把“感知—判断—行动”串成可执行的循环:读取多源信号、形成判断、调用工具执行、观察结果并调整。这与供应链调度的连续性天然契合。但需要强调,Agent 不是替
达梦数据付新:数据库将升级为Agentic AI时代的“智慧中枢”
近期我们采访了武汉达梦数据库股份有限公司副总经理、达梦数据技术(江苏)有限公司总经理付新,他分享了对Agentic AI时代用户需求变化以及数据底座的变革方向的观察与思考。
AI 赋能数据治理:自动识别敏感数据、自动标注血缘
导语:数据治理长期受困于“人工盘点慢、规则维护难、血缘失真”三大痛点。随着 LLM 与机器学习能力成熟,用 AI 自动识别敏感数据、自动标注数据血缘,正在成为数据治理体系升级的现实路径。本文围绕这两条主线,梳理能力边界、落地方式与趋势判断。 一、为什么数据治理需要 AI 介入 传统数据治理高度依赖人工,典型做法是:由数据管理员逐表逐字段梳理含义,按正则或关键词配置敏感规则,再通过人工访谈和 SQL 解析补全血缘关系。这套方式在数据规模有限时可行,但面对今天的湖仓环境,问题被迅速放大: 规模不匹配 :表、字段、任务数量持续增长,人工盘点速度跟不上数据增长速度。 规则脆弱 :基于正则和关键词的敏感识别,遇到命名不规范、字段含义隐含、多语言混排时容易漏判误判。 血缘失真 :手工维护的血缘图更新滞后,任务一改就失效,难
指标治理的三个硬骨头:口径统一、血缘追溯与变更管控
导语:指标治理常被简化为“建一个指标字典”,但真正让团队反复踩坑的,往往不是字典有没有建,而是口径能不能统一、血缘能不能追溯、变更能不能管住。本文围绕这三个难点展开讨论,给出问题拆解与治理思路。 一、为什么指标治理总是“治理了但没完全治理” 在很多团队里,指标治理的第一动作是拉一张表:把指标名、定义、负责人登记下来。这张表建起来不难,难的是它很快会变成“历史文档”——业务在变、口径在变、数据源在变,而表里的内容停在某个时间点。 指标治理的失效通常不是因为没有制度,而是因为三个环节没有被真正打通: 口径统一 :同一个词在不同团队、不同报表里含义不同,且缺少权威裁决机制。 血缘追溯 :指标算不出来或算错了,无法快速定位是源表、加工逻辑还是依赖关系出了问题。 变更管控 :指标定义或计算逻辑被修改后,下游消费方不知情,
跨部门数据权责厘清:数据所有者与使用者的边界怎么划
导语:数据治理中最难的部分往往不是技术,而是“谁说了算、谁负责、谁能用”。当数据在多个部门之间流动,所有者与使用者的权责一旦模糊,就会出现两种极端:要么谁都不敢用,要么谁都在改。本文尝试给出一套可落地的边界划分思路 一、问题的根源:数据权责为什么容易模糊 跨部门数据协作中的权责冲突,通常来自三个结构性原因: 数据产生与数据使用分离 。业务部门产生数据,但价值往往在另一个部门被释放,产生方与受益方不一致,责任自然难以对齐。 “所有权”概念被过度简化 。很多人把数据所有权等同于“数据归我管”,但实际上它至少包含定义权、质量责任、访问审批权、变更权等多个维度,混为一谈就会扯皮。 缺少显式的授权机制 。数据在部门间流转时,往往靠口头约定或历史习惯,没有形成可追溯的授权记录,出问题时无法界定责任。 二、先分清四种角色,而