关键字: [亚马逊云科技， 生成式AI， Bedrock Guardrail， 系统提示词安全指导， 应用防火墙危险拦截， 可观测性平台模型监控， 负责任生成式Ai应用， 安全合规性审核]

导读

在这个演讲中，演讲者讨论了如何构建负责任的生成式AI应用程序;具体解释了要有包含安全指导的系统提示词、应用防火墙以及可观测性平台这三大关键点。演讲重点阐述了亚马逊云科技如何通过遵循零信任原则、双向验证等安全原则和技术，实现负责任的生成式AI应用，使其能够过滤危险内容、防止隐私数据泄露、进行内容合规性审核等，从而实现安全、合规和可信赖的生成式AI应用。

演讲精华

以下是小编为您整理的本次演讲的精华。

在构建负责任的生成式AI应用的过程中，亚马逊云科技提出了“三板斧”策略，旨在确保应用的安全性、合规性和可靠性。

第一板斧是优化系统提示词，提示工程师在这一过程中扮演着关键角色。在提示词中，需要强化多方面的安全指导，包括过滤危险和恶意内容、防止泄露个人隐私数据如密码和身份证号、审核内容合规性以拦截暴力、歧视和违法内容，并确保输出符合法律法规要求。例如，对于一个客服应用，提示词需要包含过滤客户订单ID、姓名、邮箱等个人隐私数据的指令。而对于一个咖啡供应商的应用，则需要拒绝回答有关竞争对手的相关问题。

第二板斧是在应用层面设置防火墙，亚马逊云科技推出了Bedrock Guardrail，一款基于API的托管应用防火墙。Bedrock Guardrail具备拦截不良信息的能力，支持文本和图像两种形式。它还可以进行幻觉检测，为事实相关性打分。此外，Guardrail使用了传统机器学习的自动推理检查，能够识别适时性声明。它还可以设置拒绝特定话题，例如对于一家咖啡供应商的应用，可以拒绝回答有关竞争对手的相关问题。第三个能力是个人隐私数据(PII)检测，可以过滤客户的订单ID、姓名、邮箱等数据。最后，Guardrail还支持自定义词汇过滤。该防火墙在用户输入和模型输出两个阶段进行双重检查，确保最终响应的安全性。它不仅可与亚马逊云科技自有模型集成，也可应用于第三方模型，如通过MACP Server调用。

第三板斧是构建可观测性平台。与传统Web应用监控平台类似，生成式AI应用也需要一个可观测性平台，用于追踪每个用户查询、模型交互调用的工具、工具响应、调用轮数以及最终模型对用户的响应等全过程。该平台还需要集成自动化评估流程，如开源框架LumFuse中集成的Amscritic。

除了“三板斧”策略，亚马逊云科技还提出了一些原则和技巧，包括零信任原则(输入校验、输出净化、双向验证)、资源限制(避免用户滥用，给予最终用户最大Token限制)和上下文保护、输出监控和隐私保护、定期安全审查(将安全视为最高优先级工作)、模型行为监控以及模型输出水印验证等。

亚马逊云科技为客户提供了Audit Manager框架，其中包括生成式AI应用的评估框架，可用于监控Bedrock和SageMaker上的生成式AI项目。该框架包含8大项、110项控制措施，客户可以根据这些措施对自己的生成式AI应用进行评估和打分，检查其安全性。

在实际应用中，亚马逊云科技的客户已经开始采用这一策略，并取得了积极成果。例如，一家金融机构利用Bedrock Guardrail过滤了大量潜在的违规内容，有效降低了合规风险。另一家零售商则通过优化提示词，显著提高了其虚拟助手的响应质量和用户体验。而一家制造业公司则借助可观测性平台，及时发现并修复了模型输出中的偏差问题。此外，Bedrock Guardrail还可以应用于第三方模型，客户只需通过MACP Server进行调用即可，方便快速地进行负责任AI的POC(概念验证)和应用上线。

这些成功案例证明，亚马逊云科技的“三板斧”策略不仅可行，而且必不可少，将为各行业的生成式AI应用发展提供坚实的安全保障。亚马逊云科技已经为客户提供了全面的框架、工具和指导，帮助他们顺利完成这一转型，共同推动负责任的生成式AI应用的发展。

下面是一些演讲现场的精彩瞬间：

在构建基于大型语言模型的应用时，系统提示词应包含安全指导，如过滤危险内容、防止泄露隐私数据以及审核合规性，以确保输出符合法律法规要求。

总结

亚马逊云科技为构建负责任的生成式AI应用提出了三板斧策略。首先，系统提示词中需强化安全指导，包括过滤危险内容、防止泄露隐私数据以及进行内容合规性审核。其次，应用防火墙如Bedrock Guardrail可拦截不良信息、检测幻觉、评估事实相关性等，将危险关在笼子里。最后，可观测性平台能追踪每个查询、模型交互和响应，集成自动化评估流程。

遵循零信任原则、双向验证、资源限制等安全原则和技巧，逐步构建这三板斧，就能实现负责任的生成式AI应用。亚马逊云科技的AuditManager提供了生成式AI应用治理的最佳实践框架，包括预购件评估、监控项目以及110项控制措施，可用于评估和安全检查。总的思路是从洞察全球法规标准开始，夯实网络安全基础，再构建负责任生成式AI策略，关键是实施三板斧最佳实践，从简单做起，最终实现完善的平台。

我们正处在Agentic AI爆发前夜。2025亚马逊云科技中国峰会提出，企业要从“成本优化”转向“创新驱动”，通过完善的数据战略和AI云服务，把握全球化机遇。亚马逊将投入1000亿美元在AI算力、云基础设施等领域，通过领先的技术实力和帮助“中国企业出海“和”服务中国客户创新“的丰富经验，助力企业在AI时代突破。