2026 年 10 月 22 日,在由 Apache Doris 社区主办的年度技术峰会 Doris Summit 2026 数据智能论坛上,NineData 合伙人兼首席产品经理 蔡冬者(江柳) 发表了题为 《Apache Doris 实时数据同步方案的挑战与实践:从海量数据同步到 AI 时代的全新演进》 的主题演讲。
蔡冬者拥有十余年数据库与云计算领域产品经验,曾担任阿里云数据库 RDS、数据仓库与数据湖、生态工具等多条产品线产品负责人,从 0 到 1 构建了数据管理服务 DMS、数据传输 DTS、数据库备份 DBS、数据库自治服务 DAS 等云原生数据管理产品。
本次演讲围绕 Agentic 时代实时数仓的根本性变化展开,系统拆解了 Doris 在数据"采集—入仓—消费"全链路面临的新范式与硬挑战,完整呈现了 NineData 围绕 Doris 打造的一站式数据流动与治理方案、"业务语义层 + 安全访问控制"双轮驱动的 Agent 用数解法,并通过多个行业标杆案例展示了方案的落地成效。演讲共分为五个部分:
蔡冬者指出,随着企业 Agent 逐步进入应用场景, Agent 正在成为企业数据消费、以及业务端数据生产的新用户形态。在 Doris 或其他数据仓库的使用中,用户已不再只是传统的 BI 用户或 Dashboard 看板——Data Agent(数据分析 Agent)、销售 Agent、风控 Agent 等正在成为新的"原住民",而它们最常见的需求,就是对数据的使用与消费。
这种新用户形态,给数据入仓与消费带来了三重颠覆性挑战:
面对这些挑战,NineData 交出的答案,是一套"数据流动 + 数据治理"的一站式平台能力。
NineData 是一个原生企业级的数据管理平台,能够统一接管企业内部公有云、混合云、IDC 自建的各种数据库、数仓与大数据产品,并在其上提供统一的数据管理能力,覆盖三大板块:
落到 Doris 场景,NineData 提供了从数据源头采集 CDC 入仓,到入仓后的语义构建,再到 Agent 访问数据的完整解决方案:
企业 Agent 可通过 Skill、MCP、OpenAPI 三种方式接入,对接下层语义层与访问控制层,最终访问 Doris 或数据库中的数据——解决企业 Agent 用数"最后一公里"的问题。
目前 NineData 已支持 100+ 种数据源,覆盖主流 RDBMS(集中式与分布式)、NoSQL、数据仓库与大数据平台,均可作为源头实时采集同步进入 Doris。
NineData 面向 Doris 提供两条入仓路径:一是 端到端直连——从源端采集表结构、全量数据与增量变化,实时同步进 Doris;二是针对重度计算场景,支持将数据以 Canal、Debezium 或自定义格式投递到 Kafka,再由下游 Flink Task 计算后写入 Doris。同时,除企业版外,NineData 还提供 免费的社区版,中小企业可以直接用 Docker 一键拉起,直接使用数据同步能力。
从结构复制(Structure Replication)、历史数据复制(History Data Replication)、基于日志的增量 CDC(Log based CDC),到数据加工(Data Transform)与数据对比(Data Compare),NineData 提供了完整闭环:全量复制性能可达 209MB/S、增量复制性能可达 5 万+ RPS,增量复制延迟低至 秒级,并支持对象名映射、列计算、条件过滤等数据处理能力。
Agent 时代,库表数量呈指数型增长,如何高效把源端表结构在 Doris 中建模成为第一个难题。NineData 的解法是"智能转换 + 自动迁移":
Agent 成为主流用数场景后,核心 Agent 对数据消费的时效性要求极高,CDC 成为关键能力。NineData 基于 Log-based CDC 实时监听并捕获源端生产数据变化:
针对源端到下游同步过程中的建模范式变化、命名调整与敏感数据管控,NineData 在复制链路内内置了即插即用的轻量 ETL:
传统数据集成方案往往要等下游用数发现数据不准后,再倒推溯源排查,投入大量人力。NineData 的理念是 在源头就及时校准数据质量,事前保证准确性:
蔡冬者现场给出了一组 NineData 与 Flink CDC、Debezium 的对比数据:
| 对比维度 | NineData | Flink CDC | Debezium |
|---|---|---|---|
| 核心定位 | 多云多源企业级统一数据复制平台 | 开源 CDC 组件 | 开源 CDC 组件 |
| 数据源 | 100 种+ | 10 种+ | 13 种 |
| 增量复制(DDL) | 支持 | 部分支持,商业数据库完全不支持 | 部分支持,商业数据库完全不支持 |
| 数据类型 | 完全支持 | 部分支持(如 Timestamp 存在一致性问题) | Oracle/SQLServer 等不支持 |
| 全量复制性能 | 120000 条/秒+ | 30000 条/秒+ | 10000 条/秒+ |
| 增量复制性能 | 50000+ 条/秒 | 50000+ 条/秒+ | 10000 条/秒+ |
| 数据对比 | 支持 | 不支持 | 不支持 |
| 可视化任务配置/异常诊断 | 支持 | 部分/不支持 | 不支持 |
全量初始化性能约为开源工具的 4~10 倍,且开箱即用、可视化运维,摆脱开源自研与运维泥潭。
数据进入数仓之后,Agent 消费数据时面临三大挑战。蔡冬者把它类比成"新员工入职":Agent 就像一个刚进入企业的新员工,对企业的业务逻辑、业务知识完全无感知——不理解业务逻辑、依赖盲目试错、动态生成 SQL 带来安全漏洞。
NineData 的方案是在 Agent 与底层数据之间架设一个中间层,构建两大能力:
无论是自研的分析、运维、销售、风控 Agent,还是第三方商业 Agent,都不能直连数据层,而必须通过 Skill、MCP、OpenAPI 接入中间层完成安全管控与语义召回。
蔡冬者补充,原来 Agent 可能要经过十轮思考才能命中正确的库表,现在一轮即可准确返回,且准确性可随长期使用自迭代持续提升。
安全层围绕三大红线展开:
目前 NineData 已服务 1000+ 家企业级客户,覆盖运营商、金融、能源电力、物流交通、制造与车企、医疗、政企等 60+ 行业:
该客户主营海外仓储业务,涉及东南亚、欧美等市场,IT 系统分布全球,采用多云(阿里云、AWS、GCP)与 IDC 混合架构,数据仓库 Doris 中心化部署,无法使用开源或云工具实现复杂架构下的数据实时入仓。解决方案:采用 NineData 公有云服务的数据复制能力,将源端 Oracle 等数据实时同步入仓,并利用 数据对比功能进行业务端与 Doris 贴源层的一致性验证。
该客户核心业务系统国产化后采用 Kingbase,但国产数据库 AP 能力相对较弱,复杂统计报表与高并发交互式读业务出现严重性能瓶颈。解决方案:将分析业务从生产库拆出,采用 NineData 本地私有化部署,把 Kingbase 数据 秒级实时同步至 Doris,平滑承接复杂报表与高并发查询,实现读写分离;并定期进行 Kingbase 与 Doris 的数据一致性校验。目前该方案已在多个省份落地。
作为大模型公司,MiniMax 在企业内部大规模使用 Agent,核心问题是 Agent 在运维、研发、运营场景下访问数据库的安全管控。解决方案:采用 NineData 统一纳管多家云厂商的数百个数据库实例,内部 Agent 引入 NineData Skill,通过 NineData 账号平台访问数据,实现 Agent 细粒度权限管控、高危操作拦截、敏感数据脱敏及操作审计,完全规避 Agent 安全越权问题。
演讲最后,蔡冬者总结了 Agent 时代实时数据同步的几个核心命题: Agent 对数据时效性的要求,决定了秒级入仓与高并发同步的必要性;Coding Agent 横行的时代,DDL 同步的完善度成为链路健壮性的关键;数据进仓之后,业务语义鸿沟、Token 成本与安全管控,则是 Agent 真正走向企业级落地的最后一公里。
NineData 以"实时数据复制 + 数据对比 + 业务语义层 + 安全访问控制"的一站式方案,帮助企业在享受 Agentic AI 爆发式生产力的同时,守住数据时效、质量与安全的红线。
未来有兴趣的读者,可关注 NineData 官方公众号与企业微信,与团队进行更深入的交流。
NineData 是玖章算术(浙江)科技有限公司旗下智能数据管理平台,专注于云计算与数据管理基础技术创新,依托云原生架构与 AI 能力,打造覆盖数据库 DevOps、数据复制、数据对比、数据库 AI 智能体等核心场景的一体化数据管理平台,帮助企业实现"连接任何数据源、任何位置"的目标。目前 NineData 已支持 100+ 种数据源,服务 1000+ 家企业级客户,广泛应用于运营商、金融、能源电力、物流交通、制造与车企、医疗、政企等多个行业。
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70024772/viewspace-3186528/ ,如需转载,请注明出处,否则将追究法律责任。