关键字: [Amazon Bedrock, Cloud Technology, Guardrails Setup, Harmful Content Prevention, Content Filters Configuration, Topic Denial]

本文字数: 400, 阅读完需: 2 分钟

导读

在演讲中, 讲者阐述了Amazon Bedrock 的Guardrails 功能如何助力客户防范其GenAI 应用程序中出现有害内容。具体而言, 他们解释了如何构建防火墙以拒绝某些主题( 如吸血鬼) 、为提示和响应配置内容过滤器、添加被阻止的词语, 以及自定义在防火墙阻止提示或响应时显示的响应内容。该演讲重点阐释了Amazon Bedrock 如何使客户能够控制AI 模型生成的内容, 确保安全性和合规性, 并提供更佳的用户体验。

演讲精华

1. 在控制台向导中, 用户可创建一个新的防护栏。本例中, 创建了一个拒绝” 吸血鬼” 主题的防护栏。
2. 首先, 需为防护栏命名, 以便识别。
3. 然后, 用户可为提示和响应配置内容过滤器。
4. 用户还可设置应被拒绝的主题。
5. 另外, 用户可添加特定词语, 如” 吸血鬼” 、“ 大蒜” 和” 血液”, 使其被屏蔽。
6. 最后, 如果防护栏阻止了提示或响应, 用户可自定义向用户显示的响应内容。
7. 就此, 防护栏在Amazon      Bedrock 中生效。用户可通过让模型编写一个关于吸血鬼的故事来快速测试。 用户可看到Amazon Bedrock 成功阻止了该提示。

简而言之, 亚马逊云科技为Amazon Bedrock 设置了防护栏功能, 帮助客户防止有害内容出现, 如拒绝特定主题、屏蔽特定词语, 并可自定义被阻止时的响应内容。这为基于生成式人工智能的应用程序提供了额外的保护。

总结

作为亚马逊云科技部门的内容策展人, 演讲者总结了关于” 在Amazon Bedrock 上设置防护措施以保护GenAI 应用程序” 的演讲精髓。该演讲强调了保护AI 应用程序免受有害内容影响的重要性, 而Amazon Bedrock 通过其Guardrails 功能提供了解决方案。

Amazon Bedrock 的Guardrails 功能使客户能够除了基础模型服务(FMS) 提供的本地保护之外, 还能防止有害内容。客户可以通过控制台向导中的几个简单步骤创建新的防护措施。这个过程包括为提示和响应配置内容过滤器、设置要拒绝的主题, 并可选择添加要阻止的特定词语。

一个关键点是, 客户可以自定义当防护措施阻止提示或响应时用户收到的响应。这一功能确保了无缝的用户体验, 同时保持了内容的完整性。另一个值得注意的方面是, 通过提示模型一个应该被阻止的主题( 如写一个关于吸血鬼的故事), 很容易测试防护措施的有效性。

该演讲最后强调, 在Amazon Bedrock 中成功实施防护措施, 证明了它在阻止有害内容和确保用户拥有安全负责任的AI 体验方面的有效性。

亚马逊云科技（Amazon Web Services ）是全球云计算的开创者和引领者。提供200 多类广泛而深入的云服务，服务全球245 个国家和地区的数百万客户。亚马逊云科技致力于成为企业构建和应用生成式AI 的首选，通过生成式AI 技术栈，提供用于模型训练和推理的基础设施服务、构建生成式AI 应用的大模型等工具、以及开箱即用的生成式AI 应用。深耕本地、链接全球 -- 在中国，亚马逊云科技通过安全、稳定、可信赖的云服务，助力中国企业加速数字化转型和创新，并深度参与全球化市场。