导读

Generative AI带来了令人兴奋的新创新，但同时也在负责任使用和合规性方面提出了挑战。本次会议将引导您了解生成式AI应用程序的旅程，并展示亚马逊云科技如何为Amazon Bedrock和其他相关服务（如Amazon S3、Amazon Lambda和Amazon VPC）的使用提供可视性，并遵循合规性和治理的最佳实践。探索亚马逊云科技治理和合规服务，如Amazon Organizations、Amazon Audit Manager和Amazon CloudTrail，这些服务可以帮助您持续审计您的生成式AI基础设施。了解这些服务如何自动化审计证据收集，并提供符合您合规性和审计需求的审计就绪报告。

演讲精华

以下是小编为您整理的本次演讲的精华。

在AWSre:Invent2024大会上，与会者全面探讨了生成式人工智能工作负载的审计和合规性问题。来自亚马逊云科技审计经理团队的John Fisher和亚马逊资深员工Andrew Kane发表了精彩演讲，阐明了这一新兴领域与传统人工智能/机器学习审计实践的区别。

演讲一开始就将预测性人工智能模型与生成式人工智能模型区分开来。预测性模型受限于有限数据集的训练，其输出可预测且局限于明确的边界。相比之下，生成式人工智能(如大型语言模型)运行在非确定性领域，能够生成新颖的数据输出，即使输入相同的提示，输出也可能有所不同。

演讲人员指出，这一根本区别需要审计和合规方法的范式转变。传统人工智能审计可依赖清单和明确的参数，而评估生成式人工智能则需要更加关注上下文和细微差别。评估潜在偏差、确保安全性和维护负责任使用原则变成了复杂的任务，无法简单地采用传统审计方法。

为了探索这片未知领域，演讲人员介绍了亚马逊云科技生成式人工智能最佳实践框架，这是亚马逊云科技与德勤和内部安全保证团队合作制定的全面指南。该框架包括八个领域——准确性、公平性、隐私性、弹性、负责任使用、安全性、安全性和可持续性，为组织进军生成式人工智能领域指明了方向。

准确性是第一个领域，也是用户信任和系统完整性的基石。演讲人员强调了亚马逊Bedrock模型评估工具的关键作用，它可以自动测试模型在数据集上的准确性，产生关键的准确性指标。与此同时，亚马逊云科技审计管理器将证据映射到框架控制，实现了对准确性的结构化审计方法。

公平性是第二个领域，旨在解决生成式人工智能系统中的偏差问题。演讲人员强调了平衡训练数据和模型去偏技术的重要性，并通过人口统计学平等等指标进行评估。亚马逊SageMaker Clarify是一款强大的工具，可帮助组织分析数据中的潜在偏差，从而采取主动缓解策略。

隐私性是第三个领域，在生成式人工智能时代成为了一个至关重要的问题。演讲人员强调了建立健全的控制措施(如差分隐私)来保护模型中包含的敏感数据的必要性。同意管理和严格的数据处理流程被视为隐私合规的关键组成部分。

弹性是第四个领域，包括确保生成式人工智能系统持续运行的必要性。演讲人员倡导在多个亚马逊云科技区域部署弹性模型、建立健全的备份和回滚机制，以及全面的故障测试制度。他们指出，AWSConfig规则可以持续监控备份策略，进一步加强系统弹性。

负责任使用是第五个领域，是一个多方面的概念，包括内部风险评审、遵守现有法规(如HIPAA)，以及利用亚马逊云科技托管服务来简化合规活动。演讲人员强调了采取主动措施，在开发和部署生成式人工智能应用程序时坚持道德和负责任的做法。

安全性是第六个领域，旨在防范生成式人工智能输出可能带来的潜在危害。演讲人员介绍了亚马逊云科技 Bedrock Guardrails，这是一款强大的工具，可让组织根据可配置的策略过滤有害内容或阻止不安全的输出。他们认为，这种主动方法对于降低风险和确保负责任地使用生成式人工智能技术至关重要。

安全性是第七个领域，包括一套全面的最佳实践，旨在加固支撑生成式人工智能模型的基础设施。加密、最小特权访问控制，以及通过亚马逊云科技控制塔和安全中心进行集中审计，被视为健全安全态势的关键组成部分。演讲人员强调，从一开始就确保模型基础设施的安全性，与亚马逊云科技将安全视为“头等大事”的核心原则保持一致。

可持续性是第八个也是最后一个领域，体现了亚马逊对环境管理的坚定承诺。演讲人员阐述了亚马逊云科技减少生成式人工智能工作负载碳足迹的多管齐下方法，包括高效的硬件设计、跨亚马逊云科技服务复用模型，以及亚马逊云科技客户碳足迹工具，该工具可让组织估算并减少碳排放。

在整个演讲过程中，演讲人员通过引用视频字幕中的实际案例和用例，将亚马逊云科技生成式人工智能最佳实践框架的实际应用和影响与现实生活联系起来。其中一个例子是受一篇博客文章中聊天机器人架构的启发而设想的“亚马逊AskNow”应用程序。这个虚构但切合实际的例子让演讲人员能够在有形的背景下展示该框架的适用性。

演讲人员还深入探讨了围绕生成式人工智能的不断发展的监管环境。他们引用了新兴的指南和法规，如NIST AI 100、ISO 42001和欧盟人工智能法案，以及白宫表示将研究并制定该领域法规的意向。他们认为，这一监管环境凸显了采取主动合规措施和采用亚马逊云科技提出的最佳实践框架的重要性。

在整个演讲过程中，演讲人员保持了正式和权威的语气，没有不必要的修饰或偏离视频字幕中呈现的信息。他们的叙述流畅自然，将八个领域的框架、现实案例和对不断发展的监管环境的见解融合在一起，创造了一个全面而连贯的叙事。

总之，在AWSre:Invent2024大会上的演讲全面权威地探讨了生成式人工智能工作负载审计和合规性的复杂领域。通过介绍亚马逊云科技生成式人工智能最佳实践框架及其八个领域，演讲人员为与会者提供了一个强大的指南，帮助他们探索这一新兴领域的复杂性。通过现实案例、监管见解和正式但通俗易懂的叙事风格，这次演讲成为组织进军变革性生成式人工智能领域的知识和准备的指引。

我们正处在 Agentic AI 爆发前夜。 2025 亚马逊云科技中国峰会提出，企业要从 " 成本优化 " 转向 " 创新驱动 " ，通过完善的数据战略和 AI 云服务，把握全球化机遇。亚马逊将投入 1000 亿美元在 AI 算力、云基础设施等领域，通过领先的技术实力和帮助“中国企业出海“和”服务中国客户创新“的丰富经验，助力企业在 AI 时代突破。