关键字: [Amazon Bedrock, Large Language Models, Code Execution, Data Analysis, Graph Plotting, Adjacent Data Format]

本文字数: 400, 阅读完需: 2 分钟

导读

在这段视频中,Mike 演示了如何利用Amazon Bedrock 的人工智能代理和代码解释器功能, 执行由大型语言模型生成的Python 代码。他展示了如何使用Anthropic Claude-3 Sonnet 模型创建代理, 启用代码解释器, 并以编程方式调用该代理来解决数学问题和从数据生成可视化效果。代码解释器允许代理在安全的沙箱环境中运行Python 代码, 使其能够执行超出单独语言模型能力范围的复杂分析任务。Mike 提供了一个Jupyter 笔记本, 其中包含了设置和与代理交互的代码, 展示了诸如计算斐波那契数列、从数据绘制图形以及将数据格式化为JSON 文件等示例。

演讲精华

在当代科技飞速发展的时代, 人工智能(AI) 技术的应用范围日益广泛。作为AI 的重要分支, 大型语言模型(LLM) 已展现出强大的语言理解和生成能力。然而,LLM 在处理复杂的数学和分析问题时仍存在一定局限性。为解决这一问题, 亚马逊云科技(AWS) 推出了创新的” 代码解释器”(Code Interpreter) 功能。

该功能的核心思想是让LLM 生成代码, 然后在安全的沙箱环境中执行该代码, 从而实现对复杂问题的解决。亚马逊云科技技术专家Mike 通过生动的演示向我们展示了代码解释器的强大功能。

首先,Mike 演示了一个简单的聊天机器人, 它可根据用户输入生成相应图表。当用户输入” 绘制一个逆斐波那契数列图, 从-123 开始” 这样一个看似复杂的要求时, 聊天机器人在短暂等待后, 精准生成了所需图表。实现方式是聊天机器人生成Python 代码, 在后台沙箱环境中执行该代码, 并将结果返回给用户。

为让代码解释器功能发挥作用,Mike 使用了Amazon Bedrock 服务中的代理(Agent) 功能。他创建了一个名为”because no imagination” 的代理, 并选择了Anthropic 公司的Claude-3 Sonnet 模型作为该代理的LLM 。 接下来, 他为代理设置了详细的系统提示(system prompt), 指导它如何解决数学和分析问题, 以及如何利用代码解释器工具执行Python 代码。

在启用代码解释器功能后, 代码解释器会为代理连接一个Python 执行沙箱环境, 使代理能够执行生成的Python 代码。这一过程在公开预览阶段,Mike 通过亚马逊云科技控制台完成了相关设置。

为演示如何以编程方式使用代码解释器功能,Mike 提供了一个Jupyter Notebook, 其中包含所需的Python 代码。代码首先导入必要的库, 如Matplotlib 用于绘图, 以及Amazon Web Services SDK boto3 。然后, 它定义了工作区域, 该区域必须支持Bedrock 和代理功能, 并且必须在账户中启用所需的模型。

接下来, 代码通过一系列步骤创建了一个代理, 并为其添加了代码解释器功能。这涉及到创建IAM 角色和策略、定义代理名称、模型、系统提示等参数, 创建代码解释器操作组, 准备代理, 并最终创建代理别名以供访问。整个过程在代码中一步步展开, 仅用了21-22 秒就完成了设置。

完成设置后,Mike 展示了如何使用代理进行各种计算和分析任务。他首先要求代理计算斐波那契数列到1000 的总和, 代理在16.5 秒内给出了正确答案2583 。然后, 他要求代理绘制斐波那契数列图, 代理成功生成并返回了相应的图像文件。

接下来,Mike 提供了一些虚构的账单数据, 要求代理根据这些数据创建条形图, 并对数据进行分析和解释。代理不仅成功生成了条形图, 还提供了对数据的分析和见解, 如” 根据数据, 电子产品的总支出最高, 服装支出次之, 家居用品支出最低。这可能反映了消费者在这些类别上的支出优先级。”

最后,Mike 要求代理将数据格式化为JSON 格式并保存文件, 代理也完成了这一任务。通过这个示例, 我们可以看到, 代码解释器功能使得LLM 不仅能够理解和生成自然语言, 还能够执行代码、进行数据分析和可视化, 大大扩展了其应用范围。

总的来说, 亚马逊云科技的代码解释器功能为LLM 提供了执行代码的能力, 弥补了它们在处理复杂数学和分析问题方面的不足。通过生成代码并在安全的沙箱环境中执行, 代理可以完成诸如数据可视化、数据分析等复杂任务, 为各种应用场景带来了新的可能性。这一创新功能无疑将推动人工智能技术的进一步发展和应用。

总结

视频演示了如何利用 Amazon Bedrock 的 AI 代理与代码解释器功能来执行 Python 代码并完成复杂的分析任务。通过将大型语言模型与代码执行能力相结合,AI 代理可以解决数学问题、生成可视化效果, 并从数据中提供语言模型单独难以实现的见解。

关键步骤包括创建使用 Anthropic Sonnet 模型的 AI 代理、启用代码解释器功能, 并使用需要代码执行的提示调用该代理。代理生成的 Python 代码在沙盒环境中安全执行, 结果( 包括图形和数据文件) 将返回给用户。

视频展示了绘制斐波那契数列、分析计费数据以创建条形图, 以及将数据格式化为 JSON 格式等示例。语言理解和代码执行的这种集成为 AI 代理解决复杂的分析问题并从结构化数据中提供有价值的见解开辟了新的可能性。

视频最后鼓励用户探索这一公开预览功能、提供反馈, 并继续关注 Amazon Bedrock 在 AI 功能方面的更多更新。

亚马逊云科技（Amazon Web Services ）是全球云计算的开创者和引领者。提供200 多类广泛而深入的云服务，服务全球245 个国家和地区的数百万客户。亚马逊云科技致力于成为企业构建和应用生成式AI 的首选，通过生成式AI 技术栈，提供用于模型训练和推理的基础设施服务、构建生成式AI 应用的大模型等工具、以及开箱即用的生成式AI 应用。深耕本地、链接全球 – 在中国，亚马逊云科技通过安全、稳定、可信赖的云服务，助力中国企业加速数字化转型和创新，并深度参与全球化市场。