关键字: [Amazon Titan Text, Amazon Titan Text, Foundation Models, Text Generation, Generative Ai, Language Models]

本文字数: 400, 阅读完需: 2 分钟

导读

在一场亚马逊云科技活动上, 演讲者介绍了”Amazon Titan Text GenAI Demo” 。在这个演示中, 演讲者阐释了Amazon Titan Text( 一种可在Amazon Bedrock 中使用的新型基础模型) 如何实现文本生成功能。具体而言,Amazon Titan Text Express 的上下文长度可达8,000 个token, 适用于开放式文本生成和对话式聊天; 而Amazon Titan Text Light 的上下文长度可达4,000 个token, 理想选择用于微调。 该演示重点阐述了Amazon Titan Text 如何提高与文本相关任务的生产力和效率, 支持负责任地使用AI, 并根据需求提供价格和性能选择。

演讲精华

尊敬的各位, 欢迎来到亚马逊云科技Titan Text 的演示环节。接下来,Brendan Syson 和Nitin Usevius 将为大家展示Titan Text 的实际运作。Brendan 是Amazon Bedrock 的产品营销经理, 而Nitin 则是亚马逊云科技的解决方案架构师, 也是生成式AI 解决方案的专家。

首先, 让我们快速概览一下Amazon Titan Text 。作为Amazon Bedrock 的强大通用Titan 系列基础模型之一,Titan Text 由亚马逊云科技在大型数据集上训练, 适用于各种用例, 同时也支持负责任的AI 使用。您现在可以在Amazon Bedrock 中访问Titan Text 基础模型, 从而轻松构建和扩展具有新文本生成功能的应用程序。

Amazon Titan Text 系列包括两种独特的模型:Titan Text Express 和Titan Text Light 。这些Titan Text 模型可以提高各种文本相关任务的生产力和效率, 并根据您的需求提供价格和性能选择。Titan Text Express 的上下文长度可达8,000 个标记, 非常适合开放式文本生成、对话聊天以及RAG(Retrieval Augmented Generation) 等广泛任务。另一方面,Titan Text Light 的上下文长度可达4,000 个标记, 是Titan Text 系列中最快的模型, 理想的微调选择, 可以实现精度、延迟和成本的最佳组合。对于英语用例, 如文章摘要、复制重写以支持表格创建和数据格式化,Titan Text Express 和Titan Text Light 都针对流行的编程语言和文本格式进行了优化。

在深入探讨技术细节之前, 让我们先概览一下今天要展示的系统。在这个示例中, 目标是首先自动跟踪亚马逊云科技的最新公告, 然后提取相关信息, 最后以全面的方式呈现这些提取的信息。让我们逐步了解该系统的工作原理。

首先, 将展示亚马逊云科技公告检索功能。系统将查询Amazon Web Services API 以获取最新公告。这些公告将被输入到系统的下一个阶段。

接下来, 将进入Titan Text 摘要阶段。公告内容将由Titan Text 处理, 然后Titan Text 将生成简洁信息丰富的摘要, 并从每个公告中提取技术名称。

最后, 将进入演示文稿生成阶段。利用前一步骤中收集的摘要信息, 系统将自动生成演示文稿。该演示文稿包括亚马逊云科技公告的关键细节和亮点。

现在,Nitin 将现场演示系统的实际运作。

谢谢Brendan 。现在让我们来看看这个演示。使用Titan Text, 演示将评估亚马逊云科技公告并自动生成演示文稿。系统将根据输入的日期检索最新的亚马逊云科技公告, 使用Titan Text 对内容进行摘要, 提取技术名称, 并且还将通过Titan Text 生成的摘要发送电子邮件。

因此, 已选择了2023 年9 月28 日这个日期。选择大型语言模型Titan Text, 然后点击提交。系统将开始准备收集Amazon Web Services What’s New 公告, 并开始准备处理能够检索到的信息。

正如所看到的, 一旦它找到了该日期的公告信息, 它将逐步评估每个公告, 将其传递给Titan Text 以获取摘要, 同时也提取技术名称。

可以看到, 它正在逐个处理这些公告, 在这种情况下, 对两个发现的公告之一进行摘要, 并提取技术名称。

现在, 让我们等待它完成对该日期发现的所有公告的处理。

一旦所有信息都被处理完毕, 它将最终为您创建PowerPoint 幻灯片。

现在让我们看看生成的PowerPoint 幻灯片输出。正如所看到的, 系统已经为2023 年9 月28 日生成了包含这两个公告的PowerPoint 幻灯片。

可以看到, 对于第一个公告, 通过使用Titan Text 提取了两个关键要点,Titan Text 还能够提取关键技术名称。同样, 也可以看到第二个公告的两个关键要点和技术名称都被提取出来了。

现在让我们看看生成的电子邮件。正如在电子邮件中看到的, 根据输入的日期, 这两个亚马逊云科技公告的信息都在这里。我们将注意力集中在第二列的摘要上, 这是由Titan Text 生成的。

通过这种方式, 用户将能够快速了解亚马逊云科技公告的要点, 并进一步深入了解。

现在让我们深入研究一下架构图, 看看这一切是如何运作的。

首先, 该过程从Amazon Web Services What’s New 的RSS API Feed 下载最新内容开始。这将有助于根据UI 上选择的日期检索所有链接和相关公告详细信息。例如, 在我们的案例中, 看到了两个公告。

将内容传递给Amazon Bedrock, 使用提示将其传递给Titan Text 这个大型语言模型, 以帮助检索技术名称和关键要点。

结果将传递给流程编排器, 它首先将提示和结果保存到Amazon DynamoDB 以备后续分析。然后, 它将从大型语言模型( 在本例中为Titan Text) 返回的内容生成PowerPoint 输出, 其中包括技术名称和关键要点。

此外, 通过使用Amazon Simple Email Service, 还将能够在收件箱中获取摘要信息。

在此,Brendan 将为大家提供更多详细信息。

谢谢Nitin 的精彩演示。我们希望这个演示能为您如何在组织内使用Titan Text 模型来提高各种涉及文本生成任务的生产力和效率带来一些启发。要开始在Amazon Bedrock 中使用Titan Text 模型, 请访问Amazon Bedrock 控制台。我们真诚期待看到您利用Titan Text 大型语言模型提供的文本生成功能所构建的应用。谢谢大家!

该演示展示了如何利用Amazon Titan Text 模型自动跟踪亚马逊云科技公告、提取关键信息, 并生成演示文稿和电子邮件摘要。Titan Text Express 和Titan Text Light 是两种针对不同上下文长度和任务需求进行优化的模型。系统通过利用Titan Text 的文本生成和摘要能力, 可高效处理亚马逊云科技公告信息, 提高工作效率。该演示还介绍了系统的整体架构和工作流程, 包括Amazon Web Services API 、Amazon Bedrock 、DynamoDB 、PowerPoint 生成和电子邮件服务等组件的集成应用。

总结

Amazon Titan Text 演示展现了两种新型基础模型Amazon Titan Text Express 和Amazon Titan Text Light 在Amazon Bedrock 中的能力。这些由亚马逊云科技在大型数据集上训练的强大通用模型, 旨在支持广泛的与文本相关的任务, 同时促进负责任的人工智能使用。

Amazon Titan Text Express 最长可处理8,000 个token 的上下文, 非常适合开放式文本生成、对话聊天和RAG 支持。另一方面,Amazon Titan Text Light 最长可处理4,000 个token 的上下文, 是Titan Text 系列中速度最快的模型, 非常适合微调, 提供了精度、延迟和成本的最佳组合。 两种模型都针对英语使用场景( 如文章摘要、文本重写、表格创建和数据格式化) 进行了优化。

该演示展现了一个自动化系统, 用于跟踪亚马逊云科技的公告、提取相关信息并以全面的方式呈现。该系统检索最新的亚马逊云科技公告, 通过Amazon Titan Text 进行摘要和技术名称提取, 然后自动生成包含关键细节和亮点的演示文稿。

Amazon Titan Text 模型使组织能够提高广泛文本生成任务的生产力和效率, 利用大型语言模型的强大功能, 同时促进负责任的人工智能实践。亚马逊云科技鼓励用户探索并利用Titan Text 基础模型提供的这些新文本生成能力构建创新解决方案。

亚马逊云科技（Amazon Web Services ）是全球云计算的开创者和引领者。提供200 多类广泛而深入的云服务，服务全球245 个国家和地区的数百万客户。亚马逊云科技致力于成为企业构建和应用生成式AI 的首选，通过生成式AI 技术栈，提供用于模型训练和推理的基础设施服务、构建生成式AI 应用的大模型等工具、以及开箱即用的生成式AI 应用。深耕本地、链接全球 -- 在中国，亚马逊云科技通过安全、稳定、可信赖的云服务，助力中国企业加速数字化转型和创新，并深度参与全球化市场。