关键字: [Agents for Amazon Bedrock, Large Language Models, Multi-Step Business Tasks, Secure Execution, Transparent Orchestration, Chain Of Thought Reasoning, Customer Relationship Management, Recent Interactions Analysis, Customer Preferences Integration, Meeting Agenda Suggestion, Api Integration]

本文字数: 400, 阅读完需: 2 分钟

导读

在这场演讲中, 演讲者阐述了Agents for Amazon Bedrock 如何使构建能够通过自然语言交互和大型语言模型执行多步骤业务任务的应用程序成为可能。具体而言, 他解释说Agents 可以将请求分解为多个步骤, 利用现有的API 和知识库执行这些步骤, 并提供最终响应。该演讲重点介绍了Agents for Amazon Bedrock 如何利用大型语言模型的强大功能, 通过对话式界面执行复杂任务, 并以安全透明的方式与现有系统集成。

演讲精华

亚马逊云科技(AWS) 推出了一项创新服务——Agents for Amazon Bedrock(Agents for Amazon Bedrock) 。该服务旨在充分利用大型语言模型(LLM) 的强大功能, 使客户能够构建可执行多步骤业务任务的应用程序。传统的生成式人工智能虽然在各种用例和行业中展现出了巨大的潜力, 但仍然无法执行实际操作。客户期望能够利用诸如Amazon Bedrock 这样的LLM 服务来构建解决方案, 并将其提升至更高层次, 实现操作执行。

Agents for Amazon Bedrock 正是为满足这一需求而推出的。它允许客户与应用程序进行自然语言交互, 同时利用LLM 的强大功能, 并通过与现有API 、应用程序、数据库和知识库的集成来执行操作。该服务提供了多项关键功能: 首先, 它利用了Bedrock LLM 的强大能力; 其次, 它能够将客户的请求分解为一系列步骤, 并代表客户执行这些步骤, 而不是简单地运行硬编码的应用程序, 而是根据提供的工具、操作、知识库自主制定计划并执行; 再者, 它以完全安全的方式运行, 作为一项完全托管的服务, 客户可以完全控制谁可以使用哪些代理、操作和知识库; 最后, 它以透明的方式提供对计划及其执行方式的访问权限, 因为这种编排方式是新颖且有趣的。

在使用Agents for Amazon Bedrock 时, 客户只需提供一个任务, 代理就会将其分解。它会确定一个计划, 即为了完成该任务需要采取哪些步骤。根据该计划, 它将执行各种操作或跨多个知识库进行搜索。它将查看获得的结果, 然后继续执行下一步, 直到完成任务并得到最终答案。在幕后,Bedrock 代理会根据对话历史、可用操作/ 工具、知识库和代理构建者提供的指令构建适当的LLM 提示。随后, 它会在后台调用Bedrock, 并使用所谓的” 思维链推理” 来确定一个计划, 并使用操作或知识库执行每个步骤。获得全部结果后, 它将再次使用Bedrock 以自然语言形式准备最终响应。

为了演示Agents for Amazon Bedrock 的工作原理, 视频展示了一个客户关系管理(CRM) 代理的示例。该代理旨在帮助销售人员轻松利用CRM 中的数据。在这个场景中,Mark Roy 扮演一名客户经理, 负责多个客户。CRM 允许他跟踪客户、销售机会以及所有活动( 如会议、讨论和活动) 的历史记录。在定义该代理时, 需要为其命名并提供一组说明, 指定要使用的Bedrock LLM 、可用的知识空间以及可用的操作或API 。在此示例中, 该代理可以获取公司概览、最近交互活动的详细信息( 如日期、时间和会议记录) 以及客户偏好。

接下来, 视频演示了如何使用测试控制台或API 与该CRM 代理交互。Mark 首先询问了代理一个关于客户ABC 公司的问题, 代理根据最近的互动总结了该客户的主要关注点和兴趣。代理展示了它是如何制定出一个四步计划并执行这些步骤的, 包括查找交互活动、获取相关详细信息, 并根据结果给出最终响应。

之后,Mark 提出了一个后续请求, 要求代理建议下次会议的主题、议程以及合适的日期和时间。代理能够利用之前获取的信息, 提出会议主题” 智能船舶功能概览” 、议程” 智能船舶概览、定价和包装演示、问答环节”, 并根据客户偏好建议了一个会议时间” 周三下午” 。

除了使用测试控制台, 客户还可以编写自己的应用程序或将代理集成到现有应用程序中, 并通过API 进行调用。视频演示了如何构建一个简单的用户界面, 接收请求并调用部署的代理。API 会返回代理执行计划的跟踪信息, 包括计划的步骤、每个步骤的参数和结果等。

最后, 视频介绍了如何使用Lambda 函数编写简单的操作, 以便代理可以与客户现有的数据库和API 集成。客户只需编写一个函数来处理代理发送的事件, 并根据所需的操作调用相应的功能即可。在示例中,Mark 展示了一个Python Lambda 函数, 它会根据代理请求的操作类型( 如列出最近的交互活动) 从硬编码的数据中检索相关信息。在实际应用中, 这部分代码将调用CRM API 来获取真实数据。

总的来说,Agents for Amazon Bedrock 为利用LLM 构建应用程序提供了一种新颖且强大的方式。它可以根据自然语言请求动态制定计划, 并利用客户现有的API 、数据库和知识库执行操作, 从而完成复杂的多步骤任务。这项创新服务将为客户带来巨大的价值, 助力他们充分释放生成式人工智能的潜力。

总结

在这场富有洞见的演讲中, 亚马逊云科技的首席ML 专家解决方案架构师Mark Roy 揭示了Agents for Amazon Bedrock 这一强大工具的卓越能力。它利用大型语言模型(LLMs) 的强大功能来执行多步骤的业务任务。Agents for Amazon Bedrock 使用户能够通过自然语言与LLMs 进行交互, 从而利用现有的API 、数据库和知识库采取实际行动。

首先,Mark 强调了Agents for Amazon Bedrock 将复杂请求分解为一系列步骤的独特能力, 制定计划来完成手头的任务。然后, 该计划通过利用各种操作、API 和知识库得以执行, 代理无缝过渡到下一步, 直至任务完成。其次, 他强调了这项服务的安全性和透明度, 让用户完全控制访问权限, 并洞悉代理的决策过程。第三,Mark 强调了代理动态构建LLM 提示的能力, 结合对话历史、可用工具和指令, 确保响应与上下文相关。

通过一个引人入胜的演示,Mark 展示了代理在客户关系管理(CRM) 场景中的实力, 它能够熟练地检索客户互动、识别关注点和兴趣, 并根据偏好提出量身定制的会议议程。这一演示生动地展现了代理通过利用LLMs 的力量并与现有系统整合, 来简化工作流程和提高生产力的能力。

最后,Mark 邀请观众探索所提供的资源, 包括一篇博客文章和一个在线研讨会, 深入了解Agents for Amazon Bedrock 的能力, 并发掘它通过无缝整合LLMs 和现实世界行动来改革业务流程的潜力。

亚马逊云科技（Amazon Web Services ）是全球云计算的开创者和引领者。提供200 多类广泛而深入的云服务，服务全球245 个国家和地区的数百万客户。亚马逊云科技致力于成为企业构建和应用生成式AI 的首选，通过生成式AI 技术栈，提供用于模型训练和推理的基础设施服务、构建生成式AI 应用的大模型等工具、以及开箱即用的生成式AI 应用。深耕本地、链接全球 -- 在中国，亚马逊云科技通过安全、稳定、可信赖的云服务，助力中国企业加速数字化转型和创新，并深度参与全球化市场。