ITPub博客

首页 > 云计算 > 公有云实践 > 通过Amazon Bedrock知识库释放结构化数据的力量

通过Amazon Bedrock知识库释放结构化数据的力量

公有云实践 作者:出海新观点 时间:2025-06-30 00:41:10 0 删除 编辑


导读

在这次粉笔讲座中,了解Amazon Bedrock知识库中新的结构化数据检索功能如何赋能组织释放其结构化数据的价值。这个全托管解决方案配备自然语言转SQL(NL2SQL)模块,消除了复杂性,使开发人员能够发送关于其数据的自然语言查询,并通过简单的API调用接收SQL查询、结果集或叙述性回复。探索您的组织如何利用结构化数据的力量来构建下一代智能应用程序。

演讲精华

以下是小编为您整理的本次演讲的精华。

在2024年亚马逊云科技 re:Invent大会上,Ron Whita和Saka Torah就利用结构化数据与Amazon Bedrock知识库进行了全面的演示。Ron Whita是一位驻纽约的高级软件开发经理,Saka Torah则是一位主要软件工程师,他们都是支持Bedrock知识库服务的团队成员。

Ron Whita首先为那些不熟悉检索增强生成(RAG)概念的人建立了背景。通过举手表决发现,虽然一些与会者熟悉RAG,但其他人只听说过Bedrock知识库或已经在使用知识库。Ron承认议程将满足不同受众的需求。

他提出了一个发人深思的问题:“你上次向大型语言模型(LLM)提出的提示是什么?”典型的提示可能涉及改进一个段落、总结一篇文章、解决数学问题或解释一个复杂的主题。基础模型擅长理解和生成自然语言,因为它们在大量来自书籍、网站、论文、文章和代码库的数据上进行了预训练。

然而,Ron挑战观众思考一个不同的场景。假设你是一家名为“任何公司市场”的虚构公司的CEO或CTO,这是一个新的零售市场,优先考虑聊天机器人和人工智能。在这种情况下,客户可能会提出高度任务导向的提示,例如询问退货政策、订单状态或畅销产品。由于这是一家虚构的公司,基础模型将缺乏提供准确响应所需的特定上下文,可能会导致虚构或不正确的信息。

为了解决这一挑战,Ron概述了三种方法:从头训练基础模型(资源密集型)、通过微调或持续预训练定制现成模型,以及提示工程。虽然这些方法各有优缺点,但在处理存储在数据库或数据湖中的结构化数据时存在局限性。

Saka Torah随后深入探讨了自然语言到SQL翻译的复杂性,这是查询结构化数据的关键组成部分。他强调了三个关键要求:个性化数据库模式(表和列名称)、个性化数据格式以及理解SQL方言和查询框架。

使用Spider基准数据集的示例,Saka演示了如果不考虑这些因素,大型语言模型可能会生成不正确或含糊的SQL查询。例如,询问计算阿拉米达县测试人数少于100人的学校数量的查询将无法执行,因为缺乏模式上下文。即使提供了元数据,如果数据格式与模型的假设不同(例如存储国家代码而不是国家名称),生成的查询也可能返回零结果。

Saka进一步阐述了理解SQL方言的重要性,展示了一个模糊的列错误,可以通过在列名前加上表名来解决——这是一个细微差别,如果没有适当的训练,LLM可能会忽视。

为了解决这些挑战,Amazon Bedrock知识库利用数据库元数据、获取模式、分析过去的查询,并利用对SQL方言的更深入理解。这种方法能够生成针对用户特定数据设置定制的SQL查询,并提供查询配置以进一步完善该过程。

在演示过程中,Saka展示了Bedrock知识库的各种功能,包括端到端检索和生成、SQL查询生成以及通过描述和精选查询进行高级查询定制。他演示了用户如何为模糊的列或表名提供自然语言描述,从而使Bedrock知识库能够生成更准确的查询。例如,如果数据库有名为“ts1”、“ts2”和“ts3”的列,分别表示订单创建时间、订单发货时间和订单交付时间,用户可以提供这些描述来阐明列的含义。

Saka还强调了精选查询的用例,在处理自定义词汇或复杂SQL查询时特别有用。通过提供示例查询及其对应的SQL语句,用户可以指导Bedrock知识库学习并生成符合其特定需求的查询。例如,如果一家公司有“优质合作伙伴”的概念,指的是当月的头号卖家,精选查询可以教会Bedrock知识库这个自定义术语。

为确保数据安全,Bedrock知识库采取了防止意外数据修改的保护措施。Saka演示了该服务如何自动阻止数据变更查询,例如尝试删除表或更新记录(如将未交付订单的状态更改为已交付),从而防止对底层数据进行意外更改。

Ron Whita随后分享了一个令人兴奋的客户案例,重点介绍了Auxes公司,该公司目前正在Bedrock知识库结构化数据的基础上进行构建。Auxes已经增强了他们的对话式聊天机器人Credit AI,利用Bedrock知识库的功能从他们的专有数据库和主数据管理解决方案中提取数据。

演示展示了一个用例,用户询问:“2024年11月的畅销产品是什么?”Bedrock知识库生成了相应的SQL查询,在RedShift数据库上执行并检索到表格响应。然后,该响应被传递给用户选择的基础模型,生成最终答复:“11月份的畅销产品是[产品名称]。”

另一个示例展示了Bedrock知识库的上下文和对话性质。当用户随后提出“畅销产品的当前库存单位是多少?”时,该服务理解了上下文,并生成了适当的SQL查询来检索之前确定的畅销产品的库存数量。

Saka还强调了与Bedrock的检索API集成以实现更多手动编排框架的能力。用户可以生成SQL查询而不执行它们,从而允许他们在运行查询之前检查和验证查询。

除了端到端检索和生成流程外,Bedrock知识库还提供了专门的generateQuery API,用于结构化知识库,返回与自然语言问题对应的SQL查询,而不执行它。

针对用户对生成的查询不满意的情况,Bedrock知识库提供了高级查询配置。用户可以为表和列添加自然语言描述,帮助服务理解上下文并生成更准确的查询。例如,如果数据库有模糊的列名如“ts1”、“ts2”和“ts3”,用户可以提供描述来阐明它们的含义(例如,“ts1”表示订单创建时间)。

此外,用户可以利用精选查询来指导Bedrock知识库处理自定义词汇或复杂SQL查询。通过提供示例查询及其对应的SQL语句,用户可以教会该服务理解和生成符合其特定需求的查询,例如处理“优质合作伙伴”(当月头号卖家)的概念。

总之,Ron Whita强调了为企业提供定制AI体验的重要性,以及Bedrock知识库如何为结构化和非结构化数据实现检索增强生成工作流。他鼓励与会者尝试Bedrock知识库,完成调查并与团队互动,讨论他们的用例并获得个性化指导。

该演示将Amazon Bedrock知识库作为一项全面管理的服务,通过个性化、上下文感知和安全性功能解决了自然语言到SQL翻译的挑战。通过使企业能够利用来自数据库和数据湖的结构化数据进行对话式AI体验,Bedrock知识库使公司能够为客户提供量身定制和准确的响应。

我们正处在 Agentic AI 爆发前夜。 2025 亚马逊云科技中国峰会提出,企业要从 " 成本优化 " 转向 " 创新驱动 " ,通过完善的数据战略和 AI 云服务,把握全球化机遇。亚马逊将投入 1000 亿美元在 AI 算力、云基础设施等领域,通过领先的技术实力和帮助“中国企业出海“和”服务中国客户创新“的丰富经验,助力企业在 AI 时代突破。



来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70038688/viewspace-3089440/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2024-05-21

  • 博文量
    679
  • 访问量
    565279