关键字: [Amazon Bedrock, Generative Ai Applications, Model Choice, Knowledge Base Integration, Model Customization, Automation Systems Integration]

本文字数: 1400, 阅读完需: 7 分钟

导读

在”加速您的生成式人工智能之旅与亚马逊 Amazon Bedrock”的演讲中,Mark Roy阐释了亚马逊 Amazon Bedrock 如何助力构建者利用生成式人工智能模型,应用于问答、文档摘要和实体提取等多种场景。他具体解释说,Amazon Bedrock 提供了模型选择功能,允许用户访问来自不同供应商的多个基础模型;知识库,用于安全地将模型连接到公司数据;代理,用于自动化多步骤任务;以及微调功能,用于定制化模型。该演讲重点阐述了亚马逊 Amazon Bedrock 如何实现更快速的生成式人工智能应用程序开发、通过定制化提高准确性,以及在保持数据隐私的同时安全访问公司数据。

演讲精华

以下是小编为您整理的本次演讲的精华，共1100字，阅读时间大约是6分钟。

在推动创新进步的世界中,亚马逊云科技(Amazon Web Services)再次突破极限,推出了开创性的Amazon Bedrock服务,承诺将彻底改革企业应对生成式人工智能(AI)应用程序开发的方式。这一尖端平台经过精心设计,旨在解决客户在企业级别实施生成式AI时面临的紧迫需求。

故事的主角是亚马逊云科技的首席ML架构师Mark Roy,他也是Amazon Bedrock的首席架构师。在亚马逊云科技工作了6年,与无数寻求利用机器学习大规模能力的公司合作,Mark的专业经验见证了亚马逊云科技在创新领域持续产生的深远影响。

Mark娓娓道来,生动描绘了企业在大规模利用生成式AI时所面临的挑战。他阐述了客户需求的共鸣,这些需求塑造了Amazon Bedrock的发展:可扩展性、模型选择、检索和增强生成、定制、自动化以及坚实的安全性和隐私性。

随后,ML专家Gerish Winageri带领观众探索一系列令人振奋的用例,展示了Amazon Bedrock的变革力量。第一个场景围绕问答,Gerish揭示了Knowledge Bases的魔力,它可以无缝地将公司的专有数据连接到基础模型,确保响应准确且与上下文相关。他演示了Knowledge Bases如何摄取数以十万计的文档,包括政策手册、招股说明书和私募记录,使客户能够与公司数据互动并获得正确答复。在一个引人入胜的示例中,Gerish展示了虚构的Octank Financials公司的客户如何利用Knowledge Bases回答有关取消交易、检索相关政策信息以及适用时处理退款的问题。

随着叙述的推进,Gerish介绍了Agents,这是一种革命性的能力,可以自动化多步骤工作流程,简化流程并提高效率。通过一个引人入胜的示例,他展示了一个Agent如何处理客户取消尚未执行的交易请求,检索相关政策信息,生成响应,并在适用的情况下处理任何退款。Agents提供了一个跟踪功能,允许用户对Agent完成任务所采取的各个步骤进行故障排除和理解。

第二幕将观众带入文档摘要的领域,这是一项长期困扰着企业的任务,企业面临着大量数据。Gerish展示了Amazon Bedrock的多功能性,通过统一的API无缝集成了Claude和Claude Instant等模型。他揭示了批量处理的强大功能,使企业能够以前所未有的速度和效率处理大量文档摘要。在一个示例中,他演示了Octank Financials的一位构建者如何从文档存储库中处理500,000份文档,利用成本效益更高的Claude v2.1模型,该模型比GPT-4 Turbo便宜20%。批量处理允许异步作业执行,避免节流并能够有效地填补大量文档。

第三幕拉开序幕,Gerish深入探讨了实体提取的复杂世界,这是任何数据驱动型企业的关键组成部分。他演示了如何在Amazon Bedrock上对模型进行微调,以提高对特定领域数据的准确性,确保企业能够以前所未有的精度提取有价值的见解。在一个场景中,他展示了在Octank Financials如何使用经过微调的Llama 2模型从客户电子邮件中提取实体,准确率达到90%,而使用在公共数据集上训练的基础模型的准确率仅为80%。Agents在自动化实体提取过程中发挥着关键作用,使基于提取的实体及其置信度分数创建自动响应成为可能。

为了进一步巩固叙事,Mark带领观众体验了Amazon Bedrock令人着迷的现场演示,展示了与多个提供商的模型无缝集成,包括Cohere Command、Claude、Claude Instant、Claude v2.1、Titan Text Light和Express、Jurassic-2 Ultra和Mid、Llama 13B和Llama 70B,突出了Amazon Bedrock提供的无与伦比的模型选择。

随着叙事达到高潮,来自United Airlines的Sanjay Nair登台,从现实世界的角度阐述了Amazon Bedrock的变革潜力。他分享了United Airlines的创新之旅,讲述了追求卓越客户体验的故事,包括创新、包容和不懈追求。Sanjay概述了United Airlines的战略,建立在快速原型设计、轻松集成、坚定安全和自由实验各种模型的支柱之上。

Sanjay强调了United Airlines正在探索的无数用例,从总结和对话代理到情感分析和多模态体验。他强调了Amazon Bedrock的价值主张,强调其在实现负责任的人工智能、民主化获取尖端技术、推动业务效率和促进模型定制方面的作用。United Airlines正利用Amazon Bedrock来简化流程,如总结复杂的政策和业务规则、为客户互动启用对话式聊天机器人、分析来自反馈的客户情绪,并探索诸如文本到语音和语音到文本等多模态体验。

当帷幕即将落下时,Sanjay为未来勾勒出一个愿景,在那里United Airlines将与亚马逊云科技合作,继续推动创新的边界。他概述了一个以负责任的人工智能防护、成本优化、硬件专门化和定制模型微调为重点的路线图,这一切都有赖于Amazon Bedrock的强大和灵活性。Sanjay强调了成本优化的重要性,因为随着数十甚至数百种用例进入市场,需要硬件优化、数据库优化和模型监控,以确保价值创造。

在最后的环节,马克再次登台,发出响亮的行动号召。他恳请观众拥抱AMAZON BEDROCK的变革潜力,探索其功能,并与亚马逊云科技社区互动,分享他们的经验、见解和愿景。对于已经踏上这条旅程的人,他诚挚邀请他们提供反馈,塑造路线图,并为这项开创务的不断演进做出贡献。

随着帷幕落下,观众留下了深深的敬畏和灵感,见证了亚马逊云科技对创新的不懈追求。AMAZON BEDROCK矗立为希望的灯塔,推动变革的催化剂,展现了人类智慧与尖端技术相结合的力量。舞台已经搭建,生成式AI应用程序开发的未来前景前所未有地光明。

总结

Amazon Bedrock 涵盖了问答、文档摘要和实体提取等领域。在问答方面,Amazon Bedrock 的知识库允许引入和索引公司数据,通过将基础模型连接到相关信息,从而提供准确的响应。文档摘要功能通过批处理、在特定领域数据上微调模型以及事件驱动的管道得以简化。实体提取利用微调后的模型和代理,自动化诸如从客户电子邮件中提取相关实体等流程。

Amazon Bedrock 提供了来自多个供应商的各种基础模型,使企业能够选择模型并灵活地进行实验和优化,以满足其特定需求。其托管基础设施、安全功能和集中操作有助于企业大规模负责任地采用人工智能。

United Airlines 的真实案例展示了 Amazon Bedrock 如何与现有的人工智能/机器学习平台相集成,从而实现生成式人工智能用例的快速原型设计、实验和可扩展的生产部署,覆盖整个企业。凭借其全面的功能,Amazon Bedrock 定位为加速生成式人工智能创新的解决方案,同时确保安全性、准确性和选择性。

亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者。提供200多类广泛而深入的云服务，服务全球245个国家和地区的数百万客户。亚马逊云科技致力于成为企业构建和应用生成式AI的首选，通过生成式AI技术栈，提供用于模型训练和推理的基础设施服务、构建生成式AI应用的大模型等工具、以及开箱即用的生成式AI应用。深耕本地、链接全球 – 在中国，亚马逊云科技通过安全、稳定、可信赖的云服务，助力中国企业加速数字化转型和创新，并深度参与全球化市场。