导读

在本次会话中，探索如何利用Amazon DocumentDB（与MongoDB兼容）的生成式AI功能来增强您现有应用程序的能力。通过演示展示如何在Amazon DocumentDB中轻松实现语义搜索、构建聊天机器人以及执行机器学习预测。

演讲精华

以下是小编为您整理的本次演讲的精华。

在2024年亚马逊云科技 re:Invent大会上，拥有四年经验的Cody Allen和Doug Bonser两位DocumentDB首席解决方案架构师发表了一场精彩演讲，阐述了如何利用人工智能/机器学习与Amazon DocumentDB提升应用程序智能。演讲深入探讨了向量搜索的概念，这是一种在数据库上使用向量嵌入来实现上下文相关搜索的技术，超越了传统二进制文本搜索的局限性。

Cody首先阐明了向量搜索的基本原理。他解释说，该过程首先将特定领域的数据标记为有意义的元素，如单词、句子或整个文档。然后，这些元素通过大型语言模型(LLM)生成高维向量嵌入。这些向量嵌入是数字数组，包含了文本元素的语义本质，相似项在向量空间中的位置更接近。Cody提到，虽然一些LLM生成的嵌入只有200个数字，但其他的则可以根据使用情况生成超过4，000个数字的嵌入。

Cody阐述的向量搜索的关键组成部分是检索增强生成(RAG)过程。在这种方法中，语言模型首先从向量数据库中检索相关信息，然后通过综合检索到的数据和对话历史来生成响应。Cody举了一个鞋店聊天机器人利用RAG处理客户退货请求的例子。聊天机器人将从向量数据库中检索订单信息、库存数据和相关政策文档，从而能够就退货、退款或更换提供上下文相关的响应。例如，如果客户要求退货的鞋子是在30天前订购的，聊天机器人可以检索相关政策文档，说明在这种情况下需要支付10%的重新入库费。

接下来，Doug Bonser阐述了一个典型的RAG架构，强调了Amazon DocumentDB在简化该过程中的关键作用。通过在单一系统中存储操作数据和向量嵌入，DocumentDB消除了跨多个系统同步数据的需求，从而提高了效率并降低了复杂性。

Doug概述了采用DocumentDB作为向量存储的主要优势。首先，它减少了跨不同系统同步数据的需求，从而降低了开销和潜在的不一致性。其次，它使用户能够利用熟悉的工具和API，最大限度地降低了学习曲线，并促进了无缝集成。第三，通过将多个系统整合为一个统一的解决方案，DocumentDB加快了最终用户体验，确保了更快的响应时间。最后，它避免了引入单独的向量数据库所带来的额外许可和管理开销。

Cody随后深入探讨了DocumentDB支持的两种向量索引类型:反向文件与平面压缩(IVF Flat)和分层可导航小世界(HNSW)。IVF Flat索引虽然体积较小且索引操作更快，但灵活性不如HNSW索引。相比之下，HNSW索引更易于管理，更适合高性能查询，并支持增量索引，这是动态数据场景中一个理想的特性。DocumentDB目前支持向量索引的两种距离度量:欧几里得距离和余弦距离，每个向量的最大维数为2，000。

演讲中详细讨论了优化这些索引的最佳实践，包括选择适当数量的维度用于向量嵌入。Cody提到，对于一个包含1，000万个文档、128维的数据集，使用24xl实例(96个vCPU)，可以增加探针数(对于IVF Flat)或ef search(对于HNSW)以提高召回率，但在某一点之后收益将递减。对于IVF Flat，增加探针数超过400并不会显著提高召回率，但会降低查询性能。同样，对于HNSW，将ef search增加到300以上，召回率的提升微乎其微，但每秒查询数会下降。

Cody和Doug强调，通过审慎地调整参数(如IVF Flat的列表数或HNSW的邻居连接数)来在低延迟、高召回率或两者之间取得平衡是很重要的。对于IVF Flat，建议对于100万以下的文档数，列表数为文档数的平方根;对于更大的数据集，列表数为文档数除以1，000。查询时的探针数应为列表数的平方根，以达到平衡。

为了说明这些概念的实际应用，Cody展示了一个使用Python笔记本实现的RAG架构演示，该架构利用了DocumentDB。演示从亚马逊云科技文档、博客和定价页面中摄取特定领域的数据，将其分块为1，000个字符的段落，并有200个字符的重叠。然后，这些段落通过LLM生成向量嵌入，并存储在配备了HNSW索引的DocumentDB集合中。该集合中的平均对象大小约为13千字节。

一个聊天机器人界面促进了用户交互，让与会者能够提出与DocumentDB相关的查询。系统将从向量数据库中检索相关信息，并通过综合检索到的数据与LLM的输出来生成响应，同时考虑对话历史。Cody演示了聊天机器人回答诸如“DocumentDB支持哪些区域?”、“允许的最大集合数是多少?”和“写一个查询来创建部分过滤索引”等问题的能力。当面临DocumentDB实例高CPU使用率和低缓冲区缓存命中率时，聊天机器人还可以提供故障排除指导，如建议采取措施来提高性能。

在整个演讲过程中，Cody和Doug强调构建生成式人工智能解决方案涉及诸多变量，如选择合适的LLM、确定最佳分块参数和微调索引配置。他们鼓励与会者利用提供的GitHub存储库和亚马逊云科技 Skill Builder课程开始自己的探索之旅。此外，他们承诺将演示代码公开，以促进协作学习环境。

总之，Cody Allen和Doug Bonser在亚马逊云科技 re:Invent 2024大会上发表的演讲全面概述了向量搜索原理、利用Amazon DocumentDB作为向量存储的优势、调优向量索引的最佳实践，以及利用DocumentDB和LLM构建特定领域聊天机器人的实际演示。他们的见解揭示了这些技术在提升应用程序智能和为各行业(如金融异常检测和电子商务推荐引擎)的最终用户提供上下文相关体验方面的潜力。

我们正处在 Agentic AI 爆发前夜。 2025 亚马逊云科技中国峰会提出，企业要从 " 成本优化 " 转向 " 创新驱动 " ，通过完善的数据战略和 AI 云服务，把握全球化机遇。亚马逊将投入 1000 亿美元在 AI 算力、云基础设施等领域，通过领先的技术实力和帮助“中国企业出海“和”服务中国客户创新“的丰富经验，助力企业在 AI 时代突破。