关键字: [Amazon Web Services Nitro Enclaves, Confidential Computing, Secure Ai, Protect Sensitive Data, Isolate Ai Workloads, Cryptographic Attestation]

本文字数: 400, 阅读完需: 2 分钟

导读

在亚马逊云科技AI 基础设施日活动上,Soudir 发表了题为” 使用机密计算实现安全AI” 的演讲。在演讲中, 他阐释了亚马逊云科技如何通过利用机密计算来保护敏感数据和模型, 从而实现安全AI 。具体而言, 他解释了亚马逊云科技采用三大原则来定义安全AI: 从亚马逊云科技本身保护AI 数据、隔离客户的AI 工作负载, 以及将保护扩展到ML 加速器。该演讲重点介绍了亚马逊云科技Nitro Enclaves 如何实现隔离敏感AI 工作负载、保护AI 模型的知识产权, 并为生成式AI 应用程序实现安全多方协作。

演讲精华

在亚马逊云科技(AWS) 的视野中, 确保人工智能(AI) 应用程序的安全性是一项基本职责。为了保护敏感的生成式AI(GenAI) 数据应用, 亚马逊云科技采取了三个原则性的方法。

首先, 亚马逊云科技致力于确保AI 数据的安全, 包括模型、权重、提示和数据, 防止亚马逊云科技本身作为云运营商访问客户的这些敏感信息。其次, 亚马逊云科技为客户提供了一种机制, 使他们能够隔离和分离自己的AI 工作负载, 在隔离的执行环境中运行高风险的AI 模型, 避免内部操作人员和其他组件访问敏感数据。第三, 亚马逊云科技将这种保护扩展到了Nitro 系统之外的ML 加速器, 如NVIDIA 加速器, 用于训练和推理任务。

为了实现上述目标, 亚马逊云科技引入了保密计算(Confidential Computing) 的概念。保密计算的本质是在使用敏感数据和代码时对其进行保护, 利用专门的硬件和固件。亚马逊云科技发现客户希望从两个维度获得保护: 一是防止亚马逊云科技作为云运营商访问其敏感代码和数据; 二是提供机制隔离客户自身的工作负载, 防止内部操作人员和其他组件访问敏感数据。

为满足客户的这两个维度需求, 亚马逊云科技提供了两种解决方案。首先, 亚马逊云科技Nitro 系统是最新一代EC2 实例的底层平台, 可实现第一个维度的隔离, 确保亚马逊云科技运营商无法访问客户工作负载。其次, 亚马逊云科技Nitro Enclaves 解决了第二个维度问题。客户可将应用程序容器化, 并使用开源工具Nitro CLI 将其部署到隔离的执行环境中。Nitro Enclaves 具有关键特性: 从父EC2 实例中分配CPU 和内存资源; 使用加密散列(PCR0) 对Enclave 进行加密签名, 任何对Enclave 内容的更改都会改变签名; 与亚马逊云科技密钥管理服务(KMS) 集成, 只有具有特定PCR0 签名的Enclave 才能解密由KMS 保护的数据。

在GenAI 场景中,Nitro Enclaves 可用于保护大型语言模型(LLM) 。模型提供方可使用KMS 密钥对LLM 模型权重加密, 并在密钥策略中只允许具有特定PCR0 签名的Enclave 解密。即使模型被盗用, 也无法在其他环境中解密和运行。亚马逊云科技解决方案架构师在演示中展示了这 程, 先在EC2 实例上启用Nitro Enclaves 支持, 然后使用Nitro CLI 工具部署和描述Enclave, 查看其PCR0 签名。接着, 他在KMS 密钥策略中添加了只有具有特定PCR0 签名的Enclave 才能解密的条件, 实现了对LLM 模型权重的保护。

除保护LLM 模型本身, 客户还可能需要保护输入的提示和查询中的敏感数据。为此, 亚马逊云科技提供了另一种模式。客户可将敏感数据脱敏模块打包到Enclave 中运行, 使用KMS 密钥加密脱敏后的令牌, 从而保护原始敏感数据。在演示中, 亚马逊云科技解决方案架构师部署了包含LLM 和脱敏模块的解决方案, 脱敏模块使用KMS 密钥加密敏感字符串, 并将其替换为加密令牌, 传递给LLM 进行处理。LLM 响应则经过反向处理, 将加密令牌替换回原始敏感数据, 从而实现了端到端的数据保护。

这些安全功能已被医疗保健、汽车等行业的独立软件供应商(ISV) 所采用。亚马逊云科技与ISV 合作, 帮助他们构建数据和AI 市场, 允许客户安全地消费ISV 提供的LLM 模型。

总之, 亚马逊云科技通过硬件隔离、加密和密钥管理等多重机制, 为GenAI 应用程序提供了全方位的数据保护。无论是防止云运营商访问、隔离客户自身的工作负载, 还是保护LLM 模型、提示和查询中的敏感数据, 亚马逊云科技的保密计算服务都可以满足客户的安全需求, 助力GenAI 应用的发展。

总结

这篇演讲深入探讨了利用亚马逊云科技(AWS) 的保密计算服务来保护人工智能(AI) 数据和模型的原则与技术。它强调了三个关键原则: 从亚马逊云科技本身保护AI 数据、使客户能够隔离他们的AI 工作负载, 以及将保护扩展到机器学习(ML) 加速器。核心解决方案围绕着亚马逊云科技Nitro Enclaves, 它提供了具有加密证明的隔离执行环境, 以验证其完整性。

演示展示了一个多方协作场景, 其中甲方安全地使用乙方的大型语言模型(LLM) 模型。乙方使用亚马逊云科技KMS 加密LLM 模型权重, 只允许具有经过验证的加密签名的特定Nitro Enclave 解密和运行模型。这确保了模型免受未经授权的访问或渗透的保护。

另一种模式涉及在单独的Nitro Enclave 中运行的匿名化模块, 用于在将敏感提示发送到LLM enclave 之前对其进行清理。匿名化模块使用来自亚马逊云科技KMS 的加密材料( 只能通过证明访问), 将敏感数据加密并替换为令牌, 从而降低了数据泄露的风险。

总的来说, 这篇演讲强调了亚马逊云科技为AI 工作负载提供强大的安全功能, 使客户能够安全地进行协作, 同时保护他们的敏感数据和知识产权。

亚马逊云科技（Amazon Web Services ）是全球云计算的开创者和引领者。提供200 多类广泛而深入的云服务，服务全球245 个国家和地区的数百万客户。亚马逊云科技致力于成为企业构建和应用生成式AI 的首选，通过生成式AI 技术栈，提供用于模型训练和推理的基础设施服务、构建生成式AI 应用的大模型等工具、以及开箱即用的生成式AI 应用。深耕本地、链接全球 -- 在中国，亚马逊云科技通过安全、稳定、可信赖的云服务，助力中国企业加速数字化转型和创新，并深度参与全球化市场。