关键字: [ 亚马逊云科技中国峰会2024, Amazon Bedrock, 生成式Ai 服务, 基础模型定制, 知识库集成, 安全可信Ai, 企业数据集成]

本文字数: 1900, 阅读完需: 10 分钟

导读

在亚马逊云科技中国峰会2024 上, 演讲者介绍了亚马逊云科技在生成式AI 领域的产品和服务。演讲重点介绍了亚马逊云科技如何通过提供全栈生成式AI 服务, 帮助客户构建更好、更快的生成式AI 应用。具体包括: 在基础设施层提供SageMaker 和GPU 实例; 在平台层提供全托管服务Amazon Bedrock, 支持现有基础模型的选择、定制和集成; 在应用层提供Amazon Q, 为开发者、企业、商业智能和客户服务提供生成式AI 助手。亚马逊云科技的生成式AI 服务旨在让客户轻松利用生成式AI 的能力, 提高生产力、效率和创造力, 并在各行业实现创新应用。

演讲精华

以下是小编为您整理的本次演讲的精华，共1600 字，阅读时间大约是8 分钟。

在亚马逊云科技中国峰会2024 的演讲中, 演讲者详细阐述了亚马逊在生成式人工智能服务领域的产品组合及其在帮助客户构建更好、更快的生成式AI 应用程序方面的作用。

演讲者首先回顾了生成式AI 的发展历程, 从最初的聊天机器人诞生, 到如今在全球和中国市场中出现各种生成式AI 应用程序和用例。他强调, 所有客户都已从这种生成式AI 能力中获益。我们了解到, 所谓的大型语言模型或基础模型是基于大量公开可用数据的训练而来。在许多通用用例场景下, 如聊天机器人, 现有的基础模型已经非常成熟和完善。但是, 对于更多专门的用例和企业级用例, 我们需要让基础模型更好地与企业专有数据连接。

从去年到今年, 一些比较流行的生成式AI 用例可分为以下几类: 第一类是面向外部客户, 旨在提高客户体验, 常见的有聊天机器人或虚拟助手。许多企业客户最初会从内部使用用例开始, 如提高生产效率和创造力, 包括内容生成、内容总结, 以及使用大型基础模型来优化操作框架等。第二类用例已在医疗、金融、零售、媒体、娱乐和游戏等多个领域得到应用。

接下来, 演讲者分享了亚马逊在这个生成式AI 领域所扮演的角色。亚马逊在整个生成式AI 技术栈中提供从基础设施层到平台层, 再到应用层的全方位服务。

在基础设施层, 亚马逊提供SageMaker 服务, 客户可以在其上定制自己的模型。同时还提供各种  GPU 产品, 包括长期与英伟达合作将其GPU 深度集成到云服务中, 以及今年初推出支持英伟达最新H100 GPU 的实例。与此同时, 亚马逊自主研发的训练芯片和推理芯片也在飞速发展, 主要包括Amazon 训练芯片和Amazon 推理芯片。

我们之前讨论过, 在基础设施层, 亚马逊客户有选择训练自己模型的选项。但大多数客户并不需要从头训练大型基础模型, 而是希望以更便捷快速的方式利用现有基础模型, 这就是亚马逊在平台层推出Bedrock 服务的原因。Bedrock 是一项全托管服务, 客户可以利用现有基础模型构建生成式AI 应用程序。它的核心价值是让客户以最简单的方式构建生成式AI 应用程序。

Bedrock 为客户提供了整个生成式AI 旅程中几个重要组成部分:

第一是模型选择。Bedrock 目前支持7 个不同的模型提供商, 共31 种模型, 包括AI21 、亚马逊自有模型、Anthropic 、Cohere 、Meta 、OpenAI 等开源和专有模型, 覆盖了嵌入模型、大型语言模型、多模态模型、图像生成模型等。Bedrock 认为模型选择非常重要, 因为没有一种模型能够满足所有客户的不同用例。全球大部分Bedrock 客户至少使用两种不同的模型, 有时这两种模型来自两个不同的模型提供商。Bedrock 还将继续引入和推出更多新模型。

第二是模型定制。大多数用例和应用程序都需要一定程度的定制。Bedrock 提供了一系列功能和工具来支持提示工程、检索增强生成、微调、持续预训练等定制方式。其中, 检索增强生成是目前最常用的技术之一。Bedrock 上有两种API 支持检索增强生成解决方案: 检索API 和检索生成API 。在检索增强生成解决方案中, 知识库是一个非常重要的功能, 它提供了端到端的全托管支持, 包括数据ingestion 、数据分块、创建嵌入并将嵌入保存到向量数据库, 并且能够安全地将代理与数据源连接。自从去年推出知识库功能以来, 它就成为了全球大多数Bedrock 客户最常用的功能之一。

除了检索增强生成之外, 在某些特定场景下, 客户可能还需要对基础模型进行微调。Bedrock 现在也支持客户使用少量结构化数据进行微调, 以提高特定任务或用例的性能; 或者使用大量非结构化数据进行持续预训练, 为基础模型引入额外的特定领域知识。

在模型定制这一重要组成部分中,Bedrock 了解到, 过去很多客户投入了大量精力和资金训练自己的模型, 但现在客户希望能够更好地利用Bedrock 上现有的基础模型, 同时利用Bedrock 上的其他功能和特性。因此,Bedrock 最近宣布了客户模型导入功能, 客户现在可以将自己定制的模型导入Bedrock 。目前支持三种 的架构框架:LLaMA 、Megatron 和Bloom, 未来还将支持其他混合模型。自从宣布这一新功能以来, 全球就有数百个 客户申请使用。

第三个重要组成部分是集成。演讲者相信大家都很熟悉Bedrock 代理, 客户希望能够通过代理来增强基础模型的能力, 并希望基础模型能够代表客户采取行动。但是构建代理并不容易。在Bedrock 上, 我们希望让这一过程变得简单。基本上,Bedrock 代理可以将一个非常复杂的任务或查询分解为多个不同的步骤, 创建一个行动管道。客户可以通过几次点击轻松创建代理: 首先选择Bedrock 上任何可用的基础模型, 然后将代理与任何知识库或企业数据系统以及亚马逊Lambda 函数连接, 代理就能够调用API 、识别相关数据源并代表客户采取行动。所有这些不同步骤都不是黑箱操作,Bedrock 通过额外的功能和能力, 包括思维链, 让客户能够看到代理采取的不同步骤, 并且客户可以编辑不同步骤以获得更好的响应。

第四个也是最后一个重要组成部分是安全性、可信赖性和负责任AI 。与亚马逊所有其他云服务一样,Bedrock 拥有同等的企业级安全性。客户的任何数据都不会与多模型提供商共享或用于训练基础模型。Bedrock 支持GDPR 、HIPAA 、FedRAMP 等标准, 并与CloudWatch 和CloudTrail 良好集成, 让客户能够非常便捷地跟踪在Bedrock 上的使用情况和活动。

在这个组成部分中, 最重要的是负责任AI 。我们希望任何生成的结果都能完全符合客户公司自己的生成式AI 策略和安全策略。因此, 亚马逊推出了Guardrails, 客户可以非常容易地将其应用于Bedrock 上的所有基础模型, 包括定制模型。Guardrails 有几种不同的策略可供设置, 主要包括主题策略, 例如阻止生成任何与医疗保健或投资建议相关的内容; 或者对敏感个人信息进行屏蔽或去识别化。

在应用层, 亚马逊推出了Amazon Q, 这是一款为企业量身定制的生成式AI 助手, 通过对话和问答方式提供准确的响应。根据不同的应用场景和人物角色,Amazon Q 分为四个服务:

第一个是Amazon Q for Developers, 面向开发人员, 帮助他们构建代码并学习使用其他亚马逊云科技服务。

第二个是Amazon Q for Business, 面向企业用户, 能够支持超过40 种常见数据资源, 如Salesforce 、Office 文档等, 帮助回答和解决业务问题。

第三个是Amazon Q for QuickSight, 集成到亚马逊的商业智能平台QuickSight 中, 能够通过自然语言描述生成仪表板和报告, 提供类似于copilot 的体验。

第四个是Amazon Q for Amazon Connect, 广泛应用于客户服务和呼叫中心场景, 能够更好地回答并解决客户问题, 并通过与客户互动生成额外见解。

总的来说, 亚马逊在整个生成式AI 技术栈中提供了从基础设施到平台再到应用的全方位服务, 包括SageMaker 定制模型、GPU 加速、Bedrock 利用现有模型构建应用、Amazon Q 提供企业级生成式AI 助手等。演讲者希望大家今后能进一步了解这些无服务器的生成式AI 服务。

下面是一些演讲现场的精彩瞬间：

亚马逊云科技中国峰会2024 上, 演讲者用中英夹杂的语言向与会者致辞, 呼吁大家在休息之后重拾活力, 为接下来的议程注入更多正能量。

亚马逊云科技中国峰会2024: 亚马逊推出Bedrock 平台, 让客户能够轻松利用现有的基础模型构建生成式应用程序。

亚马逊云科技中国峰会2024 上, 演讲者介绍了Bedrock 服务的自动评估模式, 可以预先识别 的用例, 如内容生成、内容摘要、问答等, 并提供预先策划的数据供客户快速轻松评估不同模型。

亚马逊云科技中国峰会2024 上, 演讲者介绍了RAG 解决方案和知识库的重要性, 帮助客户高效构建RAG 解决方案。

亚马逊云科技中国峰会2024 上, 演讲者介绍了Bedrock 的新功能, 可以连接企业数据系统和Amazon 云服务, 并透明化显示代理执行的步骤, 让客户能够编辑优化响应。

亚马逊云科技中国峰会2024: 亚马逊推出负责任人工智能(Responsible AI) 功能, 确保生成式AI 应用程序完全符合公司的AI 政策和安全政策。

亚马逊云科技中国峰会2024 上, 亚马逊云科技展示了其全新的机器学习平台层服务Amazon Bedrock, 可以直接部署现有的功能模型, 加快应用程序的开发。

总结

亚马逊云科技在生成式AI 领域提供了全面的服务和解决方案。借助Amazon SageMaker 、GPU 实例和自主研发的AI 芯片, 客户可以训练和部署自定义模型。而Amazon Bedrock 则是一个全面管理的服务, 让客户能够轻松利用现有的基础模型构建生成式AI 应用。Bedrock 提供了丰富的模型选择、自定义和集成功能, 并注重安全性和负责任的AI 。此外,Amazon CodeWhisperer 、Amazon Kendra 等应用层服务也为开发者、企业和客户提供了生成式AI 的能力。

亚马逊云科技致力于为客户提供整个生成式AI 技术栈的服务, 从基础设施到平台再到应用层, 帮助客户快速构建创新的AI 应用。通过模型选择、自定义、集成和负责任AI 等核心功能, 亚马逊云科技正在重塑创新, 推动生成式AI 在各行业的广泛应用。

2024 年 5 月 29 日，亚马逊云科技中国峰会在上海召开。峰会期间，亚马逊全球副总裁、亚马逊云科技大中华区总裁储瑞松全面阐述了亚马逊云科技如何利用在算力、模型、以及应用层面丰富的产品和服务，成为企业构建和应用生成式 AI 的首选。此外，活动还详细介绍了亚马逊云科技秉承客户至尚的原则，通过与本地合作伙伴一起支持行业客户数字化转型和创新，提供安全、稳定、可信赖的服务，以及持续深耕本地、链接全球，助力客户在中国和全球化发展的道路上取得成功。