关键字: [Amazon Bedrock, Amazon Bedrock Flows, Generative Ai Applications, Visual Flow Builder, Knowledge Base Integration, Conditional Logic Routing]

本文字数: 400, 阅读完需: 2 分钟

导读

演讲者展示了Amazon Bedrock Prompt Flows, 这是一款用于构建复杂生成式人工智能应用程序的可视化工具。演示了如何通过组合诸如提示、知识库、条件和其他服务等节点来创建流程。这些流程支持从知识库检索信息、对用户输入进行分类、根据条件进行路由以及使用语言模型生成响应等功能。该演示重点介绍了Amazon Bedrock 如何让开发人员能够以可视化的方式设计和管理生成式人工智能应用程序的后端逻辑, 从而加速了应用程序的开发。

演讲精华

在当今瞬息万变的商业环境中, 企业正在寻求利用新兴技术来提高效率和创新能力。亚马逊云科技(AWS) 最新推出的Amazon Bedrock 服务正是为了满足这一需求而诞生的。它旨在帮助开发人员更轻松地构建和管理基于生成式人工智能(GenAI) 的应用程序, 从而释放GenAI 的强大潜力。

在本次演示中,Antonio Rodriguez 向观众展示了Amazon Bedrock 中的Flows 功能, 这是一个强大的工具, 可用于创建和管理复杂的GenAI 应用程序流程。Antonio 首先解释了何时应该使用Flows:“ 当开发人员有复杂或现代的生成式AI 应用程序时, 或者当需要做的不仅仅是调用单个语言模型时, 使用Flows 就很有用。它允许开发人员组合多个服务或功能, 链接多个步骤, 甚至根据用户的请求动态路由。”

接下来,Antonio 演示了如何在Amazon Bedrock 中创建一个Flow 。他从创建一个客户服务流程开始, 选择一个角色, 然后进入Bezier 流程构建器或可视化设计器。在这个直观的界面中, 他可以拖放不同类型的节点并将它们连接在一起, 以构建整个流程逻辑。值得注意的是, 所有这些操作也可以通过Amazon Bedrock SDK 以编程方式完成, 从而自动化整个过程, 提高开发效率。

在示例中,Antonio 拖放了一个Prompt 节点, 并从他之前创建的提示库中加载了一个客户服务提示。他模拟了一个客户与代理之间的对话, 其中客户说:“ 嗨, 我的信用卡被锁定了, 请帮助。” 代理回复:“ 好的, 让我先确认一下您的身份。” 客户说:“ 谢谢。” 通过将这些对话输入到流程中, 最终会根据提示模板生成一个总结句子:“ 客户的信用卡被锁定, 他们正在寻求代理的帮助, 但代理需要先确认客户身份才能继续。” 这展示了Amazon Bedrock 如何根据预定义的提示模板处理自然语言对话, 为构建智能客户服务应用程序提供了强大的支持。

随后,Antonio 创建了一个更复杂的用例, 一个名为Octank 的虚构公司的员工助手流程。在这个流程中, 他添加了一个知识库节点, 其中包含了关于Octank 公司的数据。Antonio 解释说:“ 这个数据源是一个模拟数据集, 包括来自不同部门的信息, 比如工程、销售和营销部门参与的项目, 以及相关描述和项目细节。” 这些数据存储在一个使用OpenSearch Serverless 的知识库数据库中。通过将知识库节点与提示节点相连,Antonio 展示了如何从知识库中检索信息来回答有关Octank 的问题。当他询问”Octank 公司营销部门的内容是什么?“ 时, 流程会从知识库中检索相关信息并生成回答:”Octank 公司的营销团队正在组织一个贸易展览。他们正在强调智能电网技术的成本节约优势, 同时还在推出一个网络研讨会, 并推广公司的其他产品和服务。“ 这个用例展示了如何将公司内部知识库与Amazon Bedrock 相集成, 为员工提供基于上下文的智能问答服务。

然而, 在现实世界中, 用户的问题可能不仅限于公司内部信息。为了处理这种情况,Antonio 引入了条件节点的概念。他创建了一个分类提示, 用于将用户输入分类为”octank”( 询问Octank 相关问题) 或”generic”( 询问其他问题) 。根据分类结果, 流程会将用户输入路由到不同的节点进行处理。

如果用户询问与Octank 相关的问题, 流程会将输入路由到知识库节点, 从中检索相关信息并生成回答。但如果用户询问的是通用问题, 流程会将输入路由到另一个提示节点, 该节点使用InstructGPT 模型直接回答问题。在这个示例中,Antonio 设置了一个提示:“ 回答用户的问题, 使用一个简单的句子, 并且只返回JSON 格式的答案。” 当他询问” 世界上最主要的能源类型是什么?“ 时, 流程会生成一个JSON 格式的回答, 包含一个简洁的总结句子, 如:”{‘answer’: ‘ 世界上主要的能源类型是化石燃料、可再生能源和核能。’}“ 这个用例展示了如何使用Amazon Bedrock 的提示管理功能, 快速构建通用问答应用程序。

通过这个示例,Antonio 展示了如何使用条件节点、知识库节点和提示节点构建复杂的流程逻辑, 根据用户输入的内容动态路由到不同的处理路径。他还提到, 除了提示节点和知识库节点之外, 条件节点还可以连接到Lambda 函数或其他AI 服务, 如Amazon Lex 等, 从而实现更加丰富的功能, 如执行事务、调用外部服务、构建对话机器人等。

在演示的最后,Antonio 介绍了版本控制、别名和Amazon Bedrock SDK 等功能, 以帮助管理和部署流程。他创建了一个版本, 版本号为1, 并为该版本设置了一个别名”Octank Projects”, 用于描述这个流程的用途:“ 这是我们Octank 员工助手应用程序的后端逻辑。” 通过别名, 开发人员可以在不影响前端应用的情况下, 轻松地更新后端流程的版本。同时,Amazon Bedrock SDK 则提供了编程接口, 允许开发人员以编程的方式自动化流程的创建和管理。Antonio 还提到, 开发人员可以使用Amazon Bedrock Studio 来管理工作区、用户、团队和组, 为企业级应用程序提供所需的可见性和控制。

总的来说, 这个视频全面介绍了Amazon Bedrock 的Flows 功能, 展示了如何使用它来构建和管理复杂的基于生成式AI 的应用程序, 包括智能客户服务、知识库集成、通用问答和条件路由等多种用例。通过直观的可视化界面、强大的编程接口和企业级管理工具,Amazon Bedrock 为开发人员提供了一个统一的平台, 帮助他们更轻松地利用生成式AI 技术, 构建创新的应用程序, 满足不断变化的业务需求。

总结

Amazon Bedrock Flows 赋予开发人员强大的能力, 通过无缝地组合多个服务、功能和条件逻辑, 创建复杂且现代化的生成式人工智能应用程序。这款强大的可视化设计器允许开发人员通过拖放节点的方式轻松构建复杂的流程, 并根据用户输入实现动态路由。

演示展示了创建一个客户服务流程, 其中一个提示节点总结了客户和代理之间关于被阻止的信用卡的对话。它突出了对流程进行版本控制、创建别名以实现无缝前端集成以及通过API 调用流程的能力。

接下来, 一个Octank 项目流程演示了知识库的集成, 从而能够检索特定于公司的信息。通过结合条件节点, 该流程能够智能地将有关Octank 的查询路由到知识库, 而一般问题则由另一个提示节点处理。

Amazon Bedrock Flows 的灵活性不仅体现在可视化设计器上, 还提供了通过Amazon Bedrock SDK 进行程序控制, 以及通过Amazon Bedrock Studio 进行企业级管理的能力。这使得开发人员能够加速开发前沿的生成式人工智能应用程序, 在对话式人工智能、内容生成等领域开启新的可能性。

拥抱生成式人工智能开发的未来,Amazon Bedrock Flows 是一个强大的工具, 通过将多个服务、功能和条件逻辑无缝地组合到一个直观的可视化体验中, 简化了复杂应用程序的创建过程。

亚马逊云科技（Amazon Web Services ）是全球云计算的开创者和引领者。提供200 多类广泛而深入的云服务，服务全球245 个国家和地区的数百万客户。亚马逊云科技致力于成为企业构建和应用生成式AI 的首选，通过生成式AI 技术栈，提供用于模型训练和推理的基础设施服务、构建生成式AI 应用的大模型等工具、以及开箱即用的生成式AI 应用。深耕本地、链接全球 -- 在中国，亚马逊云科技通过安全、稳定、可信赖的云服务，助力中国企业加速数字化转型和创新，并深度参与全球化市场。