关键字: [亚马逊云科技， Amazon Bedrock Guardrails， Amazon Bedrock， Ai安全防护， 内容过滤， 敏感信息检测， 自动推理验证， 幻觉防护， 业务规则集成， 企业应用集成， 可观测性监控， Agent集成]

导读

亚马逊云科技的Bedrock Guardrails企业AI安全解决方案旨在为企业提供AI安全防护机制。该解决方案可以有效防止AI生成的有害内容、幻觉以及敏感信息泄露等问题。它通过内容过滤、自动推理验证、屏蔽敏感主题、关键词过滤等多种机制，为企业AI应用提供全面的安全防护。Bedrock Guardrails可与Bedrock平台无缝集成，也支持独立接入自定义模型，满足企业不同的AI安全需求。该解决方案已在多个行业客户中成功应用，有效提升了企业AI应用的安全性和可靠性。

演讲精华

以下是小编为您整理的本次演讲的精华。

根据视频标题“亚马逊云科技-Bedrock Guardrails企业AI安全”和字幕内容，我将以叙事风格详细总结这个演讲的主要内容。请确保我对所有内容都有正确的理解，并且不会遗漏任何重要信息。

标题:“亚马逊云科技 - Bedrock Guardrails 企业 AI 安全”

亚马逊 Bedrock 是一个面向企业客户的完整 AI 平台，提供了闭环解决方案。它不仅支持接入各种大型语言模型，还考虑了 AI 安全、代理(Agent)、自定义模型、服务优化、成本优化和数据定制等多方面需求。

演讲者首先介绍了亚马逊 Bedrock 的五大核心功能:

1.           接入大型语言模型

–             数十种上百种不同类型模型可供选择，包括亚马逊自研模型和第三方模型

–             例如 Anthropic 的 Claude、Stable Diffusion、Meta 的拉马等

2.           成本控制和延迟优化

–             支持自定义模型部署，为企业前端服务提供支持

–             提示词管理和缓存机制，降低延迟和成本

3.           数据定制化

4.           AI 安全(本次演讲的重点)

5.           代理(Agent)功能

–             支持 MAO(Memory Augmented Operators)

–             支持 Prompt Workflow，类似国内的 Defi 或国外的 Antor

接下来，演讲者阐述了为什么 AI 防护机制是必要的。在企业应用 AI 时，常见的问题包括:

1.           幻觉(Hallucinations)难以避免

2.           敏感话题需要规避(如裁员、薪酬等)

3.           Gartner 的调查报告显示，CIO 和 CTO 面临以下挑战:

–             幻觉

–             垃圾/欺诈内容

–             隐私问题

–             知识产权/创作者权利不明确

–             偏见

–             有害内容

因此，Guardrails 应运而生，旨在解决以下三类问题:

1.           有害内容

2.           幻觉

3.           企业不希望回答的特定话题(如裁员、投资建议等)

即使现有大型语言模型已经内置了一些安全预训练，但仍需要独立的 AI 防护机制，原因如下:

1.           满足特定垂直领域应用场景和组织政策的定制化需求

2.           保护个人隐私信息(PII)

3.           应对模型“越狱”(模型输出逃逸)等新问题

没有这些防护机制，代价包括:

1.           数据投毒问题依旧存在

2.           幻觉问题无法根治

3.           提示词越狱问题仍可能发生

Guardrails 在应用架构中的位置和作用如下:

•              集成在业务逻辑层和模型层之间

•              通过评估和防护，使输出与业务逻辑规则相符

•              过滤输入输出中的敏感信息和有害内容

•              防止提示词越狱和幻觉问题

•              为最终用户提供一个干净的环境

Guardrails 的防护机制包括:

1.           预设筛选机制，过滤不良文本和图像内容

2.           自动推理审核，避免幻觉

–             在业务层面抽离业务规则

–             根据业务规则对模型输出进行纠偏

3.           使用自然语言描述屏蔽特定话题

–             适用于不希望回答的话题，如裁员、投资建议等

–             可设置标准化回复模板

4.           自动检测并掩码/阻止个人身份信息(PII)

5.           敏感词设置

–             建立专门的词库

–             阻止涉及敏感词的回答，或给出标准化回复

6.           引入“接地性”和“相关度”两个数值

–             接地性:模型响应与基础模型答案的相关度

–             相关度:模型响应与用户查询的相关度

–             通过设置阈值，判断幻觉是否在可控范围内

7.           自动推理验证(Preview 版)

–             从业务规则中抽离实体和规则

–             基于业务规则和数学验证，再次检查模型生成内容

–             确保输出无幻觉问题

这些防护机制可分为两大类:

1.           确定性控制

–             如关键词过滤，一旦出现敏感词就直接过滤

2.           概率控制

–             如内容过滤、屏蔽主题等，通过设置阈值进行概率控制

Bedrock 上的防护机制优势包括:

1.           在模型之外提供额外的信息保护，有害内容拦截比例提高 85%

2.           为内容摘要和 RAG 提供额外的相关度计算，减少幻觉

3.           支持自定义微调模型，不限于 Bedrock 平台模型

4.           基于企业自身安全合规要求进行量身定制

5.           改善用户体验

演讲者还分享了一些客户成功案例:

•              将 Guardrails 集成到企业工作流中，控制工作流输出

•              通力电梯将 Guardrails 集成到知识库中，为现场服务人员提供准确的技术支持

•              普华将 Guardrails 应用于医疗、法律等垂直领域系统，符合监管要求

最后，演讲者介绍了一个将 Guardrails 集成到应用架构中的参考架构:

•              前端:使用 亚马逊云科技 服务如 CloudFront、S3、Cognito

•              后端:通过 Lambda 调用业务逻辑和提示词模板

•              模型层:在调用模型前，通过 Bedrock 对输入输出进行把关

Guardrails 可以在调用 Bedrock 上的模型时启用，也可以独立接入自托管或第三方模型。它支持 GPT-3 格式响应，并提供可观测性工具集成，如 CloudWatch 监控。

最后，演讲者进行了一个 Demo，但由于时间关系，这部分内容没有展示。

总的来说，这个演讲详细介绍了亚马逊 Bedrock 平台及其 Guardrails 企业 AI 安全解决方案，解释了 AI 防护机制的必要性，阐述了 Guardrails 的各种防护策略及其在应用架构中的位置，并分享了客户案例和集成方案。

简要总结:

亚马逊 Bedrock 是一个面向企业的 AI 平台，提供全面的解决方案。其中 Guardrails 是一种 AI 安全防护机制，旨在解决有害内容、幻觉以及企业不希望回答的特定话题等问题。它通过多种策略如内容过滤、自动推理审核、屏蔽话题、检测 PII 等手段，在模型层之外提供额外的信息保护，有效降低了有害内容和幻觉的风险。Guardrails 可灵活集成到企业应用架构中，并针对特定场景和合规要求进行定制，提高了 AI 应用的安全性和用户体验。

下面是一些演讲现场的精彩瞬间：

The speaker begins by outlining the 7 sections of the presentation.

The speaker outlines the structure of the speech， covering Amazon Bedrock， the necessity of AI protection， the protection mechanisms in Amazon Bedrock， a deep dive into the functionality， an application architecture reference， management and monitoring， and a feature demonstration.

The speaker discusses mechanisms like Prompt Cache and techniques to reduce costs and latency for large token inputs， which are useful for applications like UI generation and coding services.

GatherReal’s multi-layered protection strategies， including bias and hate speech filtering， prompt jailbreak prevention， and business logic rule engines， ensure a clean and safe environment for end-users.

The speaker explains “grounding” as a method to prevent hallucinations， which involves assessing the relevance between the RAG response and the base model’s answer to determine the accuracy of the response.

自动推理功能通过业务规则和数学计算验证模型生成的内容，以防止幻觉并确保输出的准确性。

总结

亚马逊云科技 Bedrock Guardrails 企业 AI 安全解决方案的精髓:

Amazon Bedrock 是一个面向企业客户的完整 AI 平台，提供大型语言模型接入、成本优化、数据定制等功能，以及新推出的 Guardrails AI 安全防护机制。Guardrails 通过内容过滤、自动推理审核、屏蔽敏感话题、检测个人信息等多重防护策略，有效解决了 AI 应用中的有害内容、幻觉、隐私泄露等风险，大幅提升了企业级 AI 应用的安全性和可靠性。它既支持 Bedrock 上的模型调用，也可独立接入自定义模型，并提供详细的可观测性和日志记录，满足企业级客户的定制化需求。

Guardrails 的核心优势在于在模型之外提供额外的信息保护，有效降低幻觉风险，支持自定义模型接入，并可根据企业合规要求量身定制。多家全球客户已将 Guardrails 成功集成到工作流程和知识库中，显著提升了 AI 应用的安全性和用户体验。Guardrails 为企业级 AI 应用带来了全新的安全防护能力，是亚马逊云科技在企业 AI 安全领域的重要创新。

我们正处在Agentic AI爆发前夜。2025亚马逊云科技中国峰会提出，企业要从“成本优化”转向“创新驱动”，通过完善的数据战略和AI云服务，把握全球化机遇。亚马逊将投入1000亿美元在AI算力、云基础设施等领域，通过领先的技术实力和帮助“中国企业出海“和”服务中国客户创新“的丰富经验，助力企业在AI时代突破。