关键字: [ 亚马逊云科技中国峰会2024, Bedrock, 生成式Ai 时代, 角色扮演应用, 架构演进, 多模型架构, 数据驱动流量]

本文字数: 1400, 阅读完需: 7 分钟

导读

在亚马逊云科技中国峰会2024 上, 演讲者分享了” 生成式AI 时代角色扮演Roleplay 应用的架构和演进” 。演讲重点阐述了在AI 时代, 角色扮演应用如Character AI 在陪伴、占卜、心理咨询、教育、游戏等领域的应用, 以及这类应用的特点和挑战。演讲者介绍了亚马逊提供的Bedrock 和AI Character Edit 等工具, 可快速构建角色扮演应用。此外, 演讲还阐述了应用架构从单模型到多模型、从规则驱动到数据驱动、从单模态到多模态的演进路径, 以及亚马逊云科技提供的相关解决方案, 如SageMaker 、Bedrock 、数据湖、分析平台、StableDiffusion 等, 帮助企业构建高性能、多模态的角色扮演应用。

演讲精华

以下是小编为您整理的本次演讲的精华，共1100 字，阅读时间大约是6 分钟。

在当今生成式人工智能(Generative AI) 时代, 角色扮演应用程序(Roleplay Application) 已经成为一种新兴的趋势。这类应用允许用户与虚拟角色进行互动, 场景包括但不限于陪伴、占卜、心理咨询、教育、游戏和交友等。这种应用具有实时性要求高、用户使用时长长、对话轮次多等特点。

据统计显示, 目前最大的角色扮演应用ChatGPT 虽然使用频率很高, 但大多数用户只是短暂地提问一两个问题就结束了。相比之下, 像Character AI 这样的应用, 用户的平均使用时长大约在20-30 分钟左右, 对话轮次甚至可以达到50-100 轮。另外, 这类应用的用户复购率, 也就是7 日留存率, 整体指标都非常高。因此, 对于这样一个典型的面向终端用户(C 端) 的应用, 它会遇到很多挑战, 包括高性能低成本的要求, 因为它是实时对话, 需要快速响应, 同时对话轮次也会非常多。此外, 这类应用的整个收费模式基本上都是订阅制, 这就要求模型具备很强的能力, 支持多语言等。

构建这种应用对企业来说是一个挑战, 许多客户都想要尝试这个方向去探索和构建这样的应用, 但在构建过程中会遇到诸多问题, 比如模型的选择、架构的演进等。为此, 亚马逊云科技( 亚马逊云科技) 提供了一种快速构建角色扮演应用的解决方案。通过Amazon 的Bedrock 模型中心、 界面和AI Character Editor 角色编辑器这三个关键组件的配合, 用户就可以构建一个开箱即用的角色扮演应用。其中,Bedrock 是亚马逊提供的模型中心, 用户可以在其中调用各种大模型的能力; Select Event 提供了简单的UI 界面; 而AI Character Editor 则用于编辑各种角色卡。通过CloudFormation 一键部署, 用户就可以快速拉起整个环境, 并在展区现场体验这一套架构的演示。

然而, 在完成了从0 到1 的初始构建阶段之后, 应用架构还需要进一步演进。这个演进过程包括了从单模型到多模型的转变。目前, 几乎所有做这类应用的企业都在朝着这个方向转变, 原因有二: 首先, 单个模型无法满足用户的多样化需求; 其次, 不同模型的价格也不尽相同, 如果想要满足多样性的模型需求, 同时优化成本结构, 那么多模型架构就是必然选择。在这一点上, 亚马逊云科技比较推荐的是SageMaker 自建模型的方案, 结合Bedrock 提供的商业模型和开源模型。用户可以在SageMaker 上微调和推理开源模型, 而Bedrock 则提供了全托管的收费模型服务, 两者结合可以满足多样化的需求。在一楼的展区, 用户都可以看到并体验大量的可用模型。

另一个重要的演进方向是从规则驱动到数据驱动。在这里, 用户交互数据和流量转化数据是两个尤为关键的数据源。用户交互数据之所以关键, 是因为这一类型的应用要构建独特的模型, 就必然要走自建模型的路子。而自建模型的核心就是数据, 是基于用户与应用交互过程中积累的数据进行微调的。亚马逊云科技的数据湖方案可以存储和清洗这些用户交互数据, 然后通过AI 平台进行模型制作, 将数据转化为训练模型, 最终应用于生产环节, 形成一个闭环。除此之外, 流量转化数据平台同样重要, 它可以分析什么样的用户访问什么样的模型、什么样的角色卡适合用什么样的模型, 从而让平台实现最高的ROI 。亚马逊云科技基于点击流的分析方案, 可以帮助企业构建这样的数据分析体系。

角色扮演应用的另一个演进方向是从单模态向多模态的转变, 包括数字形象、图像、声音、动作等多模态交互能力的融入。以CharacterAI 的老板Lomen 为例, 他认为用户在决策选择一个平台时, 至少有15% 的因素是由多模态能力决定的。目前, 国内头部的同类型应用中, 多模态能力也是一个显著的趋势。为了构建这样的多模态能力, 亚马逊云科技提供了多种解决方案, 如StableDiffusion 生成图像方案、数字人解决方案、Transcribe 和Polly 的语音解决方案等, 用户可以在一楼展台现场体验。

最后, 亚马逊云科技为角色扮演应用提供了一个总体的最佳实践架构。在这个架构下, 应用体系、数据体系和模型体系融合在一个闭环中, 形成一个三位一体的完整解决方案。用户可以根据这个架构来构建和演进自己的角色扮演应用。

总的来说, 在生成式AI 时代, 角色扮演应用正在快速发展。这类应用具有实时性高、使用时长长、对话轮次多等特点, 对企业的技术能力提出了很高的要求。亚马逊云科技为企业提供了从快速构建到持续演进的一整套解决方案, 包括开箱即用的初始架构、从单模型到多模型的演进路径、从规则到数据驱动的转变、从单模态到多模态的拓展, 以及最终的整体最佳实践架构, 帮助企业应对这一新兴趋势带来的机遇和挑战。

下面是一些演讲现场的精彩瞬间：

亚马逊云科技中国峰会2024 上, 演讲者介绍了角色扮演AI 应用的多种用途, 包括陪伴、占卜、心理咨询、教育、游戏和交友等。

亚马逊云科技中国峰会2024 上, 演讲者阐述了人工智能模型从单一到多模型、从规则驱动到数据驱动、从文本到多模态的演进过程, 以及将应用平台化的发展方向。

亚马逊云科技在2024 年中国峰会上展示了Bedrock 模型中心、Select Event 界面和AI Characters 角色编辑功能, 为开发者提供了强大的大模型调试和应用创建能力。

在亚马逊云科技中国峰会2024 上, 演讲者介绍了SageMaker 和Bedrock 等云服务, 用于开发和部署自定义机器学习模型。

亚马逊云科技中国峰会2024: 从规则到数据驱动, 用户交互数据是构建独特应用模型的关键

亚马逊云科技中国峰会2024: 多模态能力在用户决策平台时占有15% 的影响因素, 亚马逊云科技提供StableDiffusion 等解决方案助力企业快速构建多模态能力。

亚马逊云科技中国峰会2024 上展示了一个基于最佳实践的总体架构, 可以形成应用、数据和模型三位一体的闭环体系。

总结

在生成式AI 时代, 角色扮演应用( 如Character AI) 正在兴起, 成为用户使用时长最长、对话轮次最多的场景。这类应用面临高纯度低成本、实时响应、多语言支持等挑战。构建过程分为两个阶段:0 到1 阶段关注核心模型能力和Prompt 设计,1 到10 阶段则关注从单模型到多模型、从规则到数据驱动、从文字到多模态的演进。

亚马逊云科技提供了Bedrock 模型中心、 和AI Character Editor, 可快速构建开箱即用的角色扮演应用。 随后需要演进到多模型架构( 如SageMaker 和Bedrock) 以满足多样性和成本优化需求, 并利用用户交互数据和流量转化数据进行持续训练和优化。此外, 还需要从单一文字模态向多模态( 图像、语音等) 演进, 以提供更丰富的交互体验。

总的来说, 亚马逊云科技提供了端到端的解决方案, 帮助企业构建和演进角色扮演应用, 形成应用、数据和模型三位一体的闭环架构, 满足生成式AI 时代的新需求。

2024 年 5 月 29 日，亚马逊云科技中国峰会在上海召开。峰会期间，亚马逊全球副总裁、亚马逊云科技大中华区总裁储瑞松全面阐述了亚马逊云科技如何利用在算力、模型、以及应用层面丰富的产品和服务，成为企业构建和应用生成式 AI 的首选。此外，活动还详细介绍了亚马逊云科技秉承客户至尚的原则，通过与本地合作伙伴一起支持行业客户数字化转型和创新，提供安全、稳定、可信赖的服务，以及持续深耕本地、链接全球，助力客户在中国和全球化发展的道路上取得成功。