在本课程中,您将学习如何为各种生成式人工智能模型创建和优化提示。首先,本课程涵盖了基础模型(FMs)的基础知识,包括一个称为大型语言模型(LLMs)的基础模型子集。然后,课程涵盖了提示工程的基本概念,如提示的不同元素以及有效使用提示的一些通用最佳实践。最后,课程提供了关于基本提示技术的信息,包括零样本、少样本和思维链提示。
以下是小编为您整理的本次演讲的精华。
讲者开始了会议,询问与会者是否熟悉生成式人工智能,以建立对该主题的基础理解。随后,他们提出了一个后续问题,询问对提示工程的熟悉程度,并确认本次会议确实是那些希望在这一领域获取知识的人的合适场合。
当天的议程包括探索生成式人工智能的概念,深入探讨基础模型及其子集大型语言模型。此外,本次会议旨在阐明提示工程的关键概念,包括最佳实践和基本组成部分。最后,议程包括研究基本提示技术,以在与基础模型或大型语言模型互动时优化提示,具体包括三种不同的技术。
生成式人工智能技术能够创建新颖的内容,如图像、叙述或内容摘要。例如,可以利用生成式人工智能生成新闻文章或电子邮件通信的摘要。在深入探讨提示工程之前,讲者阐释了基础模型和大型语言模型的工作原理。
基础模型采用深度神经网络来模拟人脑功能,从而有助于处理复杂任务。这些任务可能包括文本生成、图像创建或聊天机器人应用程序的开发。基础模型利用包含数万亿个词的预训练、未标记数据集来捕捉上下文细微差别。在预训练阶段,基础模型采用自监督学习从这些庞大的数据集中提取上下文。在此训练阶段使用基础模型算法,即深度神经网络。例如,当遇到单词“drink”时,模型会在预训练过程中确定它是名词还是动词。
下一阶段是微调,其中预训练的基础模型使用针对所需用例的特定数据集进行进一步训练。例如,如果目标是为医学研究生成报告,则模型将使用医学领域的期刊作为数据集进行微调。
最后一个阶段是提示工程,它通过优化提供给基础模型的提示或输入来生成所需的输出。值得注意的是,提示工程不需要重新训练模型;相反,它专注于优化输入以影响基础模型生成的输出。
基础模型有两种主要类型:文本到文本(也称为大型语言模型)和文本到图像模型。大型语言模型是基础模型的一个子集,当创建聊天机器人应用程序或总结文本时使用。这些模型接受文本输入并产生文本输出。
相反,文本到图像模型(如Stable Diffusion)根据提供给基础模型的自然语言输入或文本描述生成图像。
大型语言模型利用转换器架构将文本转换为数值表示,因为计算机处理数字比处理文本更高效。在转换器架构中,模型通过将输入文本转换为数字形式并找到具有相似含义的最近数字表示来识别相似的单词或数字。例如,如果输入文本是“cat”,转换器架构将其转换为一个数字,并找到对应于类似单词(如“feline”)的最近数字。随后,转换器架构的解码器组件将数字输出转换回文本。
基础模型的神经网络架构包括三个关键层:嵌入层(将文本转换为数字作为输入层)、前馈层(为每个单词分配权重以有助于识别相似的单词和数字)和注意力机制层(专注于基础模型中被查询的特定上下文或文本部分)。
大型语言模型有多种用途,包括聊天机器人,客户可以就产品提出查询,模型会生成相关回应。此外,它们可以提高员工生产力,尤其是对于开发人员。讲者询问与会者中是否有任何开发人员,并强调大型语言模型可以生成代码,与传统方法(如查阅文档)相比,可能会提高开发人员的效率。
此外,大型语言模型可以促进创造力,为产品活动生成图像或撰写产品描述。它们还可以加快流程优化,自动生成会议记录或报告,简化文档处理工作流程。
讲者强调,提示工程是利用大型语言模型强大功能的最快捷方式,并强调了基础模型和大型语言模型之间的区别。
提示工程专注于改进提供给大型语言模型的提示或输入,以生成内容或提出查询。接下来讨论了提示工程的关键概念,强调了微调和提示调优之间的区别。
微调是指采用现有的基础模型或大型语言模型,并使用针对所需用例的特定数据集对其进行重新训练。这个过程需要额外的计算资源和时间。相反,提示调优不需要优化现有模型;相反,它通过大型语言模型或基础模型提供一组指令来影响对查询的响应输出。
有效的提示包括几个要素:一组指定所需输出的指令(如生成摘要或图像)、与任务相关的背景信息(上下文)、可进一步影响输出的输入数据,以及指定输出格式(如PNG或JPEG图像格式)的输出指示符。
讲者提供了一个创建亚马逊Prime Student摘要的示例提示,说明了各种元素。指令是“写一个摘要”,输出指示符指定“使用2句话”。上下文是“在线运输服务的摘要”,输入数据包括要总结的句子或段落。
讨论了设计有效提示的最佳实践,强调了清晰简洁地制定提示的重要性。包括上下文并使用指令性来指定所需的响应类型(如500字论文或2句摘要)可以提高提示的有效性。
提供示例输出和以问题开头的提示(例如“什么”、“谁”、“如何”、“何时”)也是推荐做法。将复杂查询分解为一个接一个的较小步骤,并尝试不同的基础模型以比较输出,也是讨论的其他最佳实践。
为了加强这些概念,讲者与与会者进行了互动练习,提出了示例提示,并要求与会者识别哪些提示遵循了特定的最佳实践。这种互动方式使与会者能够应用所学原理并获得即时反馈。
介绍了三种基本提示技术:零示例提示、少示例提示和思维链提示。
零示例提示仅提供问题,不包括任何上下文或示例。期望基础模型或大型语言模型能够理解问题并仅根据提示提供输出。
另一方面,少示例提示包括在提示中提供一些信息、示例或输出,以指导模型。讲者用一个示例提示说明了这种技术,询问给定段落的情感(正面、负面或中性)。少示例提示包括一个示例用例、上下文和预期输出,允许模型从提供的示例中学习。
当处理复杂问题时,使用思维链提示。这种技术不是提出一个冗长复杂的提示,而是将问题分解为较小的连续步骤。每个步骤都建立在前一个步骤的基础上,允许模型按步骤推理解决问题。
讲者提供了一个使用思维链提示计算车辆总成本(包括首付款)的示例。第一个问题是根据给定信息询问较大的首付款金额,后续问题参考了前一个提示和输出,逐步计算出最终的总成本。
这些提示技术可以组合使用,例如在思维链序列中使用少示例提示。讲者举例说明了将思维链提示与少示例提示相结合的情况,其中以分步方式提出多个问题,并提供示例数据和输出来指导模型。
总之,本次会议涵盖了基础模型(包括大型语言模型子集)和提示工程概念。深入探讨了有效提示的关键组成部分、提示设计的最佳实践以及基本提示技术(零示例、少示例和思维链)。讲者强调了理解这些概念对于优化提示并充分利用生成式人工智能和大型语言模型的潜力至关重要。
演讲者鼓励与会者探索亚马逊云科技培训和认证资源,包括自学培训、重点实验室、考试准备课程以及亚马逊云科技 Skill Builder实践数字培训和实验室访问。此外,亚马逊云科技认证考试提供50%的折扣,与会者可以通过扫描二维码领取优惠券。
演讲者要求与会者通过移动应用程序调查提供对“Prompt Engineering 介绍”课程的反馈。最后,演讲者邀请观众提出任何剩余问题,并对他们的出席和参与表示感谢。
我们正处在 Agentic AI 爆发前夜。 2025 亚马逊云科技中国峰会提出,企业要从 " 成本优化 " 转向 " 创新驱动 " ,通过完善的数据战略和 AI 云服务,把握全球化机遇。亚马逊将投入 1000 亿美元在 AI 算力、云基础设施等领域,通过领先的技术实力和帮助“中国企业出海“和”服务中国客户创新“的丰富经验,助力企业在 AI 时代突破。
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70038688/viewspace-3089453/ ,如需转载,请注明出处,否则将追究法律责任。