关键字: [Amazon Bedrock, Generative Ai Applications, Foundation Models, Amazon Bedrock, Knowledge Base, Retrieval Augmented Generation]

本文字数: 2900, 阅读完需: 14 分钟

导读

在该演讲中, 演讲者们探讨了生成式AI 的工作原理, 以及Amazon Bedrock 如何助力开发者构建生成式AI 应用程序。他们阐释了生成式AI 可借助在海量数据上训练的基础模型生成全新的原创内容, 而Amazon Bedrock 则提供了一系列基础模型、用于通过微调和检索增强定制模型的工具, 以及用于协调复杂任务的代理人。该演讲重点介绍了Amazon Bedrock 如何实现生成式AI 应用程序的更快开发、安全访问公司数据源, 以及治理和可审计性, 从而为旅游、金融和客户服务等各行业带来裨益。

演讲精华

以下是小编为您整理的本次演讲的精华，共2600 字，阅读时间大约是13 分钟。

在不断演进的科技领域中, 一股变革性和创新力量已经浮现, 吸引了企业和个人的关注—— 生成式人工智能(Generative AI) 。这项突破性技术拥有生成新颖、原创性内容的非凡能力, 这些内容与人工创作的材料极为相似, 为文本摘要、问答和图像生成等各个领域开辟了无限可能。

生成式人工智能的真正力量远不止是一个简单的搜索引擎或聊天机器人; 它有可能彻底革新公司和组织运营的方方面面。虽然消费者无疑已经接受了生成式人工智能的应用, 但真正的机遇在于企业如何利用其能力为客户和员工提供卓越的体验。

几十年来, 人工智能一直是一个备受关注和研究的领域。然而, 生成式人工智能近期突飞猛进的原因可归因于三个关键因素: 大量数据的激增、高度可扩展的计算能力的可用性, 以及机器学习技术随着时间的推移而取得的长足进步。这些因素共同推动了生成式人工智能从理论概念走向切实可行的现实。

生成式人工智能的核心是基础模型—— 在大量数据( 包括数十亿个参数) 上训练的强大人工智能系统。这些模型使开发人员能够以最小的努力调整和微调它们, 以适应广泛的用例, 从而将开发新的人工智能应用程序所需的时间大大缩短到前所未有的水平。

要理解生成式人工智能的内在运作原理, 必须了解它在更广阔的人工智能领域中的定位。人工智能包括任何允许计算机模仿人类智能的技术, 无论是通过逻辑、if-then 语句还是机器学习。在这个领域中, 机器学习是一个子集, 它利用机器在数据中搜索模式并自动构建逻辑模型。

机器学习模型已经从浅层架构演进至深度多层神经网络, 被称为深度学习模型。这些深度学习模型能够执行复杂的任务, 如语音和图像识别。生成式人工智能(Generative AI) 是深度学习的一个子集, 由超大型的基础模型驱动, 可以应对高度复杂的挑战。

通过从输入和输出的角度来观察传统机器学习模型、深度学习模型和生成式AI 模型之间的差异, 可以进一步理解生成式AI 的复杂性。传统机器学习模型允许将简单的输入( 如数值) 映射到简单的输出( 如预测值) 。随着深度学习的兴起, 复杂的输入( 如图像或视频) 可以映射到相对简单的输出, 如识别图像中的物体。然而, 生成式AI 将这种能力提升到了一个新的高度, 利用大量复杂的数据来捕获和呈现知识, 将复杂的输入映射到同样复杂的输出, 例如从大量文档中提取摘要和关键见解。

这些模型之间的区别不仅体现在输入和输出方面, 它们在模型架构和训练过程上也存在差异。大多数传统机器学习模型是通过监督学习过程训练的, 其中模型使用需要数据标注和模型训练的架构来产生针对特定任务的单一模型。相比之下, 驱动生成式AI 应用的基础模型采用基于Transformer 的神经网络架构, 使它们能够通过自监督学习过程在大量未标注数据上进行训练。这种独特的方法允许这些模型被用于各种广泛的任务, 并且可以通过一个称为微调(fine-tuning) 的过程轻松适应特定的领域或行业, 只需要少量标注数据。

在基础模型领域中, 存在三大主要类别: 文本到文本模型、文本到嵌入模型和多模态基础模型。文本到文本模型接受文本作为输入, 并生成文本作为输出, 例如提供一篇新闻文章, 并收到文本摘要作为响应。文本到嵌入模型接受文本作为输入, 并输出输入文本的数值表示, 称为嵌入。多模态基础模型则接受文本作为输入, 但生成另一种数据形式的输出, 如图像。

亚马逊在生成式人工智能领域的探索之路已经走过了漫长而富有成果的历程, 深深植根于该公司在机器学习创新方面的DNA 。二十多年来, 亚马逊一直从事人工智能和机器学习的工作, 生成式人工智能已经应用于各种应用程序, 包括在Amazon.com 上提供高度准确的搜索结果, 以及为全球数百万用户提供人性化对话体验的Alexa 。

在亚马逊云科技, 该公司在使机器学习民主化方面发挥了关键作用, 让任何希望利用其功能的人都能够获得。目前, 各种规模和行业的10 万多家客户都在利用亚马逊云科技进行机器学习。为了满足客户在其企业和组织内快速采用生成式人工智能以提高生产力和转型产品的需求, 亚马逊云科技确定了大规模构建和部署生成式人工智能应用程序的四个关键考虑因素。

第一个考虑因素是在最高性能和低成本的基础设施上, 提供使用领先的基础模型构建生成式人工智能应用程序的最简单方式。其次, 亚马逊云科技确保客户能够在安全和私密的环境中使用自己的数据对这些模型进行微调。第三, 亚马逊云科技提供开箱即用的应用程序和服务, 以提高生产力并缩短上市时间。最后, 亚马逊云科技提供无缝集成, 无需管理复杂的基础设施。

为了应对构建生成式人工智能应用程序所面临的挑战, 亚马逊云科技于2022 年9 月20 日宣布了Amazon Bedrock 的全面上线。Amazon Bedrock 是一项全权托管服务, 提供来自领先人工智能公司的高性能基础模型选择, 以及构建生成式人工智能应用程序所需的全套功能。这些功能简化了开发过程, 同时保持了隐私和安全性。

凭借Amazon Bedrock 全面的功能, 开发人员可以轻松尝试各种优秀的基础模型, 使用微调和检索增强生成(RAG) 等技术私下利用自己的数据对模型进行定制, 并创建托管代理, 无需编写任何代码即可执行复杂的业务任务。这些任务范围从预订旅行和处理保险理赔到创建广告活动和管理库存。

由于Amazon Bedrock 是无服务器的, 用户无需管理任何基础设施, 并且可以安全地使用他们已经熟悉的亚马逊云科技服务来集成和部署生成式人工智能应用程序。Amazon Bedrock 的一个关键方面是, 客户内容不会被用于改进基础模型或与第三方模型提供商共享, 从而确保了数据隐私和安全性。

使用Amazon Bedrock 构建生成式人工智能应用程序的过程包括几个步骤。首先, 用户从Amazon Bedrock 提供的一系列模型中选择一个基础模型, 包括亚马逊自己的Titan 文本摘要和嵌入模型、AI21 Labs 的用于各种语言自然语言生成的Jurassic 2 模型、Anthropic 采用最新负责任人工智能研究成果构建的云模型、Meta 针对对话用例优化的Llama 2 模型的微调版本, 以及Stability AI 的基础模型, 包括流行的用于图像生成的Stable Diffusion 模型。

选择基础模型后, 用户可以通过微调和检索增强生成(RAG) 等技术, 利用自己的数据定制体验。在微调过程中, 用户只需在S3 存储桶中指定几百个标注样本, 即可创建针对特定问题的准确定制模型, 无需收集大量标注数据的负担。

虽然基础模型拥有强大的能力, 并对自然语言有着深刻的理解, 但它们需要手动编程才能完成诸如预订航班或处理保险理赔等复杂任务。这是因为开箱即用的基础模型无法访问最新的知识源( 如公司特定数据), 并且无法采取具体行动来满足用户请求。为了解决这一挑战,Amazon Bedrock 提供了代理, 可以配置基础模型, 自动分解和协调任务, 而无需编写任何手动代码。

代理通过简单的API 安全连接到公司的数据源, 自动将数据转换为机器可读格式, 并使用相关信息增强用户请求, 以生成准确的响应。代理还可以通过代表用户执行API 调用来满足用户请求, 从而消除了复杂的系统集成和基础设施供应的需求。

嵌入在生成式AI 应用中扮演着关键角色。嵌入是文本、图像、音频和视频数据的数值表示, 有助于机器理解单词的含义和上下文。通过为每个单词的不同特征赋予数值, 可以将向量视为多维空间中的点, 并测量它们之间的距离。在上下文中相关的单词将拥有更接近的向量, 从而使机器能够理解单词之间的相似性和差异。

嵌入对于语义搜索和产品推荐等用例尤为重要, 可以提高输出的准确性。此外, 嵌入可以通过检索增强生成(RAG) 技术来增强提示, 从而获得更准确的结果, 该技术允许基础模型从知识库中获取信息以生成响应。

Amazon Bedrock 提供了知识库功能, 可以实现RAG 而无需大量工作。用户可以将基础模型指向三种常用的RAG 应用数据源之一, 基础模型将在知识库的帮助下开始响应, 并提供引用, 以阐明生成响应时使用了哪些文档。

一个演示展现了旅游公司如何利用Amazon Bedrock 构建代理和知识库, 打造出强大的聊天机器人。该聊天机器人能够为家庭度假提供建议, 从公司数据源获取关于特殊活动和折扣的最新信息, 甚至通过 API 调用预订旅行安排, 无需手动编码。

配置此类体验使用Amazon Bedrock 需要两个主要步骤。首先, 用户需要创建知识库, 提供名称、描述, 并将其指向存储数据源的 S3 存储桶。他们还需选择一个嵌入模型, 如 Titan Embeddings 模型。其次, 用户需要创建代理, 命名、描述其目的、选择基础模型、提供说明、将操作分解为步骤, 并授予对知识库的访问权限。

Amazon Bedrock 提供两种使用服务的模式: 按需和预配置吞吐量。按需模式是基于输入和输出标记( 类似于字数) 的按使用付费模式, 适用于原型设计和小规模生产工作负载, 但对每分钟请求数和每分钟标记数有限制。另一方面, 预配置吞吐量模式通过进行一个月或六个月的承诺, 以每小时的费率支付费用, 并为较长期的承诺提供折扣, 从而提供稳定的性能和固定的成本, 适用于需要保证性能的生产工作负载。

在处理生成式人工智能应用程序时, 安全性和隐私性是最重要的考虑因素。Amazon Bedrock 采用了各种技术来解决这些问题, 包括使用亚马逊云科技 Private Link 在基础模型和内部网络之间建立私有连接, 避免流量暴露在互联网上。客户数据在传输和静态时都会加密, 用户还可以使用亚马逊云科技 Key Management Service (KMS) 自行加密数据。

Amazon Bedrock 与 GDPR 和 HIPAA 等合规性程序兼容, 并正在进行更多合规性认证。值得注意的是, 客户内容不会被用于改进基础模型或与第三方模型提供商共享, 从而确保数据隐私和安全。

治理和可审计性也是生成式人工智能应用程序的重要方面。Amazon Bedrock 提供了全面的监控和日志记录功能, 以支持治理和审计要求。用户可以利用Amazon CloudWatch 跟踪使用情况指标并构建自定义仪表板, 用于审计目的。此外, 还可以使用Amazon CloudTrail 来监控API 活动, 并在与其他系统集成时进行故障排除。用户还可以选择将元数据、请求和响应存储在Amazon S3 存储桶中。

生成式人工智能的潜力确实令人振奋, 预计在未来十年内将为全球GDP 带来巨大增长。生成式人工智能可应用于各种业务领域, 包括工程、营销、客户服务、金融和销售。使用案例包括通过聊天机器人、虚拟助理、智能联络中心、个性化和内容审核来优化客户体验; 通过对话式搜索、内容创作、文本摘要和代码生成来提高员工效率; 加快创意内容( 如艺术、音乐、文本、图像、动画和视频) 的制作; 以及通过智能文档处理、维护支持、质量控制、视觉检查和合成训练数据生成来改善业务运营。

这些使用案例可应用于众多行业, 包括金融服务、医疗保健、汽车、制造业等。一些客户已经开始利用Amazon Bedrock 进行生成式人工智能应用程序的开发。

Lonely Planet 是一家旅游媒体公司, 一直在开发基于亚马逊云科技的生成式人工智能解决方案, 帮助客户规划个性化旅行行程。通过在Amazon Bedrock 上构建Claude II,Lonely Planet 的行程生成成本降低了近80% 。他们现在可以快速创建一个可扩展和安全的人工智能平台, 在几分钟内组织他们的内容, 提供连贯、高度准确的旅行建议, 根据客户偏好重新包装和重新利用内容, 同时突出可信赖的本地声音。

作为英国领先的银行, 服务超过1900 万客户的NatWest 集团正在利用Amazon Bedrock 安全可扩展地运用最新的生成式AI 模型。该集团的数据科学家、工程师和技术人员团队正在使用这些工具进行实验和构建新服务, 以打击新一代金融犯罪威胁, 并允许客户和员工以所需格式获取信息。

Salesforce 正在将其” 自带AI” 集成扩展到Amazon Bedrock 的生成式AI, 实现对Salesforce 数据云的安全访问, 并能够使用客户数据快速安全地定制基础模型。这些为每家公司量身定制的模型, 可以轻松地从Salesforce 数据云调用并在Salesforce 应用程序中使用。

要开启生成式AI 之旅, 客户可以利用亚马逊云科技提供的各种资源和工具。AI Use Case Explorer 是一个易于使用的搜索工具, 可根据行业、业务职能和期望的业务成果帮助识别合适的用例, 提供精选的AI 用例列表和专家策划的行动计划。

亚马逊云科技Skill Builder 提供了超过600 门数字课程的广泛库, 包括最近在Coursera 上推出的” 大型语言模型的生成式AI” 培训课程, 该课程是与AI 专家和教育家如Deep Learning AI 的Andrew Ying 博士合作开发的, 为实际应用中训练、微调和部署大型语言模型提供了实践经验。

客户还可以在亚马逊云科技生成式AI 创新中心的指导下进行概念验证, 这是一项1 亿美元的新投资计划, 旨在让亚马逊云科技的AI/ML 专家与全球客户和合作伙伴联系, 加速企业在生成式AI 方面的创新和成功。

最后, 亚马逊云科技为开始使用Amazon Bedrock 提供了有用的资源, 包括Amazon Bedrock 产品页面、YouTube 上的分步教程以及实践研讨会。

总而言之, 这段视频全面阐述了生成式人工智能及其变革性潜力, 同时介绍了Amazon Bedrock 如何通过提供基础模型选择、定制功能、任务编排、托管代理以及与亚马逊云科技服务无缝集成的能力, 简化了构建生成式人工智能应用程序的过程, 并解决了安全性、隐私和治理方面的挑战。凭借亚马逊云科技提供的丰富资源和工具, 客户能够开启生成式人工智能之旅, 在各个行业和应用场景中释放创新和生产力的新高度。

总结

生成式人工智能(Generative AI) 的兴起为企业增强客户体验、提高员工生产力和简化运营流程开辟了广阔可能。亚马逊云科技(AWS) 的生成式人工智能服务Amazon Bedrock 赋予开发者利用大型语言模型和基础模型的力量, 构建满足其特定需求的创新应用程序。

Amazon Bedrock 提供了一系列基础模型, 包括亚马逊自有的Titan 模型, 以及来自AI21 Labs 、Anthropic 、Cohere 、Meta 和Stability AI 等公司的模型。开发者可以通过微调、检索增强生成(RAG) 和知识库集成等技术定制这些模型, 从而创建出高度准确且与上下文相符的响应。Amazon Bedrock 的Agents 功能简化了编排复杂任务、安全连接数据源和执行操作的过程, 无需手动编码。

Amazon Bedrock 通过加密、私有连接、合规性遵从和数据隔离等措施来解决安全和隐私方面的重大关注。全面的监控和日志记录功能确保了治理和可审计性。凭借Amazon Bedrock, 金融、医疗保健、旅游和制造业等行业的企业可以利用生成式人工智能用于聊天机器人、内容创作、智能文档处理和合成数据生成等用例, 推动创新和提高运营效率。

为了助力开发者开启生成式人工智能之旅, 亚马逊云科技提供了AI Use Case Explorer 、培训计划和Generative AI Innovation Center 等资源, 让各个技能水平的开发者都能释放这项变革性技术的潜力。

亚马逊云科技（Amazon Web Services ）是全球云计算的开创者和引领者。 提供200 多类广泛而深入的云服务，服务全球245 个国家和地区的数百万客户。亚马逊云科技致力于成为企业构建和应用生成式AI 的首选，通过生成式AI 技术栈，提供用于模型训练和推理的基础设施服务、构建生成式AI 应用的大模型等工具、以及开箱即用的生成式AI 应用。深耕本地、链接全球 – 在中国，亚马逊云科技通过安全、稳定、可信赖的云服务，助力中国企业加速数字化转型和创新，并深度参与全球化市场。