ITPub博客

首页 > 人工智能 > 人工智能 > Observe.AI 如何利用 MongoDB 重分片扩展其 AI 平台

Observe.AI 如何利用 MongoDB 重分片扩展其 AI 平台

人工智能 作者:ITPUB社群 时间:1970-01-01 08:33:46 0 删除 编辑

Observe.AI 于 2017 年推出,最初以其在对话智能和联络中心分析方面的专业能力而闻名。然而近年来,该公司已发展成为全面的智能体 AI 平台,目前拥有三项核心产品:

  • 面向客户的 AI 智能体,可在语音和聊天渠道中解决客户请求。

  • 面向一线团队的 AI 智能体。其中包括 Observe.AI 近期推出的 Companion Agent(智能体),它为人类团队成员提供实时指导,并在客户交互之前、期间和之后自动化工作。

  • 面向运营的 AI 智能体,用于评估交互、生成辅导、发现运营洞察,并推动联络中心的持续改进。

Observe.AI 使用 MongoDB Atlas 作为其 AI 平台的基础数据层,并依赖它存储原始客户对话、AI 生成的增强数据、模型配置和智能体元数据。

MongoDB 灵活的文档模型使 AI 模型演进时能够快速迭代,而其可扩展性——支持超过 100 个集群和 50+ TB 数据——使其成为支撑我们平台智能层的可信记录系统。

最近,团队希望继续以保留应用程序可用性、降低运营风险并为持续数据增长创造可预测空间的方式与 MongoDB 一起扩展。

团队与 MongoDB Consulting 的专业服务团队合作,扩展了一个对生产至关重要的 MongoDB Atlas 部署,以支持 Observe.AI 的对话智能平台。该项目是 Observe.AI 与 MongoDB 之间的联合工程工作,使用 MongoDB resharding 作为一种实用的在线机制,将大型集合重新分布到更广泛的分片范围。

扩展受限的分片范围

在项目进行时,该集群具有以下特征:

  • 一个分片的 MongoDB Atlas 部署,包含两个数据分片以及配置服务器。

  • 每个数据分片约 13 TB 压缩数据,整体约代表 50 TB 未压缩数据。

  • 每个分片运行在 M140 层级上,磁盘限制约为 14 TB,可用余量有限。

  • 持续摄取速率约为每天 50 GB,因此主动扩容对于安全的长期运营非常重要。

  • 多个多 TB 集合,具有显著的索引占用和生产流量。这种设置在公司的早期阶段曾经可行,但已不再适用,可能导致性能问题或服务降级,从而直接影响客户。

MongoDB 与 Observe.AI 合作的工程目标很明确:将受限的分片范围扩展为更健康的水平布局,同时保持应用程序在线,并尽量减少对生产工作负载的干扰。

超越 balancer:面向大规模数据迁移的更快重新分布

在增加新的分片容量后,团队评估了默认的 balancer 驱动重新分布路径。他们确定 balancer 是持续增量均衡的正确工具,但需要重新分布的数据量足够大,仅依赖 chunk migrations 会延长迁移窗口,并使原始分片承受高于期望的压力更长时间。

团队还解决了其他若干限制。首先,新的分片容量可以接收数据,但重新分配的速度受限于均衡器和范围删除的吞吐量;范围删除还会在已经承载生产流量的分片上产生额外的后台负载。其次,现有分片会周期性地经历较高的 WiredTiger 缓存压力,因此必须避免应用流量、均衡和清理活动之间长时间竞争。最后,团队希望采用受控、可预测的迁移路径,而不是漫长的后台重新分配过程。

他们得出结论:均衡器应继续处理增量修正,但初始大规模数据移动需要一种更快、更明确的重新分配机制。

四步重分片计划

MongoDB–Observe.AI 团队没有仅依赖均衡器迁移,而是设计了一个受控的重分片计划:

  • 扩展集群

  • 为重新分片准备集群

  • 对最大的集合执行重新分片

表 1. 重分片性能指标。

| 命名空间 | 持续时间 | 平均文档大小 | 克隆数据量 | 克隆文档数 | 索引总数 |
| --- | --- | --- | --- | --- | --- |
| collection1 | 6.0 分钟 | 727 B | 2.81 GB | 3.87 M | 12 |
| collection2 | 8.7 分钟 | 35.5 KB | 2.19 GB | 60k | 4 |
| collection3 | 54.8 分钟 | 1.45 KB | 266 GB | 179.5 M | 9 |
| collection4 | 1.30 小时 | 603 B | 319 GB | 529.9 M | 4 |
| collection5 | 1.17 小时 | 7.9 KB | 360 GB | 44.6 M | 5 |
| collection6 | 14.65 小时 | 7.1 KB | 4.26 TB | 590.8 M | 13 |
| collection7 | 38.8 小时 | 31 KB | 19.67 TB | 629.3 M | 20 |
| collection8 | 5.77 天 | 5.2 KB | 12.87 TB | 2.70 TB | 12 |

4. 清理并恢复正常运行

  • 数据重新分配完成后:

重分片推动更大的优化、性能和可靠性提升

此次联合工作为 Observe.AI 提供了更安全、更具可扩展性的数据基础,以支持平台的持续增长。

得益于重分片,集群从有限的磁盘余量转变为更健康的数月容量状态,同时大型多 TB 集合通过在线重分片在扩展后的分片范围内重新分配,而不是仅依赖均衡器驱动的长时间块迁移。

在克隆和追赶阶段,生产环境的读写持续进行,只有最后的提交阶段需要一个短暂的写阻塞临界区。团队减轻了原始分片的持续压力,为未来的数据摄取增长、维护和运维灵活性创造了更多空间。

最终,迁移完成后,MongoDB balancer 恢复了其增量再平衡的正常角色,而繁重的数据移动则通过更合适的 resharding 工作流来处理。

该项目凸显了如何将分片和重分片主动用作持续容量管理的一部分,帮助优化存储利用率、管理不断增长的数据量,并在工作负载扩展时保持平台性能和可靠性。

结合水平扩展与重分片:制胜组合

MongoDB 重分片功能背后的核心理念很简单——分片不应是你所畏惧的最后手段或一生一次的操作。它应该是一个实用、快速的工具,可以在工作负载超出当前形态时随时使用。

如果你认为分片“成本太高”而将其推迟到主节点承载数十 TB 数据时才进行,那么你将为此付出多倍的代价:

  • 过大的单个副本集,

  • 运维风险,

  • 以及最终添加分片时缓慢而痛苦的平衡过程。

通过将水平扩展与重分片相结合(自 2024 年 MongoDB 8.0 发布以来已可用),你可以从小规模起步、有机增长,并在集群和业务腾飞时仍然拥有一条可预测、高效的数据重新分布路径。

Observe.AI 的平台每年处理数十亿次客户交互,因此基础设施必须像业务一样无缝扩展。与 MongoDB 团队合作使 Observe.AI 能够在几乎不影响客户的情况下重新分布超过 50 TB 的生产数据。MongoDB 8.0 重分片提供了主动扩展容量的运维信心,而不是被动应对基础设施限制,使 Observe.AI 的工程团队能够专注于为客户交付创新。


转载声明:本文为转载整理,原文版权归原作者及原站点所有。

原文来源:MongoDB Blog

原创地址:https://www.mongodb.com/company/blog/innovation/how-observe-ai-used-mongodb-resharding-scale-ai-platform

原文作者:Siddharth Gupta, Devashish Kumar Yadav;如有侵权,请联系管理员删除。

请登录后发表评论 登录
全部评论

注册时间:2022-11-21

  • 博文量
    1307
  • 访问量
    573628