ITPub博客

首页 > 云计算 > 公有云实践 > 亚马逊云科技-生成式AI合规性挑战解决方案

亚马逊云科技-生成式AI合规性挑战解决方案

公有云实践 作者:出海新观点 时间:2025-05-29 20:21:12 0 删除 编辑

关键字: [亚马逊云科技, 生成式AI, Amazon Bedrock, 生成式Ai合规性, 法律法规要求, 数据合规性, 模型合规性, 应用合规性]

导读

在这场演讲中,演讲者介绍了亚马逊云科技为生成式AI应用提供的合规性解决方案。他解释了各国政府对生成式AI的监管要求,以及亚马逊云科技如何通过提供符合法规的云服务、大模型和应用程序,帮助客户实现合规性。他还介绍了亚马逊云科技如何通过模型拆分、隔离计算环境等技术,解决数据隐私和知识产权保护等合规性挑战。最后,他强调亚马逊云科技拥有专业团队和合作伙伴生态系统,可以为客户提供全面的合规性支持。

演讲精华

以下是小编为您整理的本次演讲的精华。

大家下午好,我是亚马逊云科技的行业解决方案架构师。在制造业这个行业中,当企业的产品或服务需要对外扩展到全球市场时,合规性和安全合规就成为了一个无法回避的重要话题。这些合规性要求的源头可以追溯到各个国家的法律法规,尤其是在人工智能这股浪潮的推动下,各国政府对数据层面和模型层面都提出了相关的合规性规定。

中国在人工智能合规性领域的政策相对较为领先,早在2019年就发布了新一代人工智能治理原则。随着时间的推移,到了2021年和2022年,生成式人工智能开始从学术界大规模应用到工业界,美国、欧盟等主要国家和地区也相继推出了关于人工智能的法案和法规。这些法规的制定过程呈现出一个由宏观到微观、由原则到细节的演进轨迹。最初是一些治理原则和指导方针,逐步细化为可操作的具体条例,比如明确规定哪些算作隐私数据,对隐私数据的传输又有哪些具体的协议要求等。

各国政府在鼓励人工智能创新的同时,也在加速围绕生成式人工智能立法,目的是为企业在海外设计应用和服务时提供更清晰的政策依据。在出海合规方面,企业需要综合考虑数据层面、业务层面和监管合规层面的多种因素。

有些用户担心,合规性要求太多会影响业务创新的步伐。事实上,亚马逊云科技(亚马逊云科技)希望通过提供相应的能力,帮助客户加速业务创新的同时也能满足合规性要求,并不是一种非此即彼的矛盾关系。

举一个实际案例,一家欧洲的智能家居客户需要构建自己的物联网系统。在这个过程中,无论是数据传输环节还是数据存储环节,都可能出现不符合欧盟通用数据保护条例(GDPR)要求的情况。为解决这一问题,亚马逊云科技为该客户提供了符合GDPR的云服务,并有专业的客户团队和行业团队帮助客户快速实现整个合规迁移的过程。

以扫地机器人为例,从研发设计到生产制造,再到市场营销和售后服务,在这个产品的整个生命周期中都会产生大量敏感信息,如用户数据、供应商信息、设备ID等。在生成式人工智能的场景下,要从技术层面来保证这些数据和整个产品的安全合规性,我们可以将相关技术分为三个层次:第一层是基础模型训练和推理所需的基础设施,比如服务器、网络、存储、通讯等;第二层是生成式人工智能所离不开的大模型及其工具;第三层则是基于大模型开发的应用程序。除了这三层技术栈之外,我们还需要一个平台,用于全方位监控不同技术栈层的合规性转换流程,确保整个过程都是安全合规的。

在基础模型训练的环节,我们遇到过这样一个客户案例:数据供应商希望提供的数据不被滥用,只能用于特定的模型训练场景;而模型提供商则希望自己的算法知识产权能够受到保护,不被泄露。为解决这一矛盾,亚马逊云科技的Nitro Enclaves服务提供了一个相对隔离的计算空间,数据供应商可以将数据放在这个空间中,并按照特定的授权和使用方式供给模型训练方使用。在这个隔离空间内,模型训练方无法下载或保存数据,一旦模型训练完成并获得最终模型,整个空间将被关闭,数据和模型均得到保护,从而实现了数据供应商和模型提供商的诉求。

大多数情况下,企业更希望直接使用通用的大模型,而不是自己训练私有模型。Amazon Bedrock服务正是为此而生,它集成了多种大模型,可供企业开箱即用,并支持GDPR、SOC、ISA等合规认证,企业上传的数据也不会被用于模型训练。

以智能客服为例,不同的场景需要使用不同类型的大模型。在产品咨询或售后咨询的场景中,可能需要阅读理解能力强的模型接入企业知识库;而在与物流系统或订单系统交互的复杂场景中,则需要具有强大推理能力的大模型;如果智能客服直接面向终端消费者,就可能需要支持多模态输入(文字、语音、图像、视频等)的大模型。Bedrock服务能够满足这些不同的需求。

生成内容的合规性同样至关重要。Bedrock的GoDrill子模块可以有效抑制回复中的知识幻觉现象。以智能客服为例,除了解决知识幻觉问题外,还需要屏蔽一些企业不允许讨论的禁止话题,如涉及政治敏感信息、暴力等,或者是一些特定地区的民族习俗规范。对于企业内部的合规规范,比如不允许对手评价竞品公司等,GoDrill同样可以通过自然语言描述或关键词清单的方式,自动实现屏蔽。

除了大模型工具,亚马逊云科技还提供了一键即用的应用,覆盖开发、运维、业务数据等多个领域,同样可以保证合规性。比如在业务数据领域,企业可以将结构化数据(如销售数据、财务数据、生产数据)和非结构化数据(如规章制度文档)接入Amazon Web Services Q Business服务,通过自然语言的方式进行查询和分析,而整个过程的安全性和合规性都有保证。

虽然亚马逊云科技在不同技术层级采取了多种合规防范措施,但还需要一个工具来全方位监控和审计整个系统的合规性情况,生成相应的审计报告。Amazon GuardDuty服务就可以发挥这一作用。

亚马逊云科技不仅提供上述各种服务,更有专业的客户团队和行业团队,能够深入了解客户的实际应用场景,并针对性地提供解决方案,帮助客户实现合规。此外,亚马逊云科技还拥有开放且丰富的合作伙伴生态网络,如果客户在某些合规领域存在短板或能力不足,都可以寻求合作伙伴的补充和支持。

再次以扫地机器人为例,一家客户考虑在端侧运行小模型无法覆盖所有场景,而将大模型完全部署到端侧又成本太高且造成资源浪费;将大模型部署到云端虽能降低成本,但上传本地图像可能违反某些国家和地区的合规性要求。为解决这一难题,亚马逊云科技帮助客户进行了模型拆分:将少量部分在端侧运行,这部分经过不可逆处理,无法通过输出推导输入图像,从而实现了云边协同、降低成本且满足合规要求。

在智能客服场景中,Amazon Bedrock服务集成了多种大模型以满足不同需求。比如在产品咨询或售后咨询场景中,需要阅读理解能力强的模型接入企业知识库;在与物流系统或订单系统交互的复杂场景中,则需要具有强大推理能力的大模型;如果直接面向终端消费者,就需要支持多模态输入(文字、语音、图片、视频等)的大模型。

Amazon Bedrock的GoDrill子模块可用于屏蔽智能客服回复中的知识幻觉现象。除此之外,它还可以屏蔽企业不允许讨论的禁止话题,如涉及政治敏感信息、暴力等,或一些特定地区的民族习俗规范,以及企业内部的合规规范,比如不允许对手评价竞品公司等,可通过自然语言描述或关键词清单实现自动屏蔽。

在业务数据领域,企业可将结构化数据(如销售数据、财务数据、生产数据)和非结构化数据(如规章制度文档)接入Amazon Web Services Q Business服务,通过自然语言查询和分析,整个过程安全合规。

Amazon GuardDuty服务可全方位监控和审计整个系统的合规性,生成审计报告。

总之,亚马逊云科技诚挚欢迎有合规需求的客户和合作伙伴加入,通过提供合规的云服务、大模型工具、应用程序,以及专业的团队支持和合作伙伴补充,共同打造一个安全合规的合作生态,助力制造业客户在全球扩展业务时实现合规创新。

此外,亚马逊云科技还遇到过这样一个客户案例:该客户是一家算法公司,在模型训练时需要使用来自不同数据供应商的大量数据。数据供应商希望数据只用于特定场景的模型训练,不被滥用;而算法公司则希望自己的知识产权受到保护,不被泄露。为解决这一矛盾,亚马逊云科技的Nitro Enclaves服务提供了一个相对隔离的计算空间,数据供应商可将数据放在其中,并按授权方式供给算法公司使用。在隔离空间内,算法公司无法下载或保存数据,一旦模型训练完成并获取最终模型后,整个空间将被关闭,实现了数据和模型的保护。

下面是一些演讲现场的精彩瞬间:

An industry solutions architect from 亚马逊云科技 introduces himself and acknowledges the various manufacturing scenarios and applications discussed earlier in the event.

中国在人工智能治理方面走在前列,早在2019年就发布了相关政策,随着生成式AI的兴起,更多国家也相继推出了人工智能法规。

亚马逊云科技的Nitro Enclaves服务提供隔离的计算空间,确保模型训练过程中数据不会被下载或保存,保护数据隐私。

作为面向消费者的智能客服机器人,它需要避免讨论禁止话题,如政治敏感信息、涉黄涉爆涉毒等,并遵守民族和地区规范。

Amazon GuardDuty can help quickly implement comprehensive security compliance monitoring and auditing for AI models and applications.

百度提出了一种模型拆分方法,将模型的一小部分放在端侧运行,实现云边协同,解决成本和合规性问题。

总结

生成式人工智能(AI)的合规性挑战正在引起全球各国政府的高度关注。随着相关法律法规的完善,企业在开发和应用生成式AI时需要考虑数据、业务和监管等多方面的合规性要求。亚马逊云科技(亚马逊云科技)致力于为客户提供符合各国法规的云服务和专业团队支持,帮助他们在创新业务的同时实现合规性。

亚马逊云科技提供了多层次的解决方案,包括安全的基础设施、大模型工具以及应用程序,并通过Amazon GuardDuty等服务实现全方位的合规性监控。Amazon Bedrock服务集成了多种预训练大模型,可开箱即用并保证合规性。Amazon Galareal子模块则能够有效抑制生成内容中的知识幻觉和不当内容。此外,亚马逊云科技还提供了面向特定行业的合规解决方案,如通过模型拆分技术实现云边协同,满足智能家居等场景的隐私合规需求。

亚马逊云科技不仅提供合规云服务,更有专业的客户和行业团队为客户量身定制解决方案,并与合作伙伴共同构建开放的合规生态系统。亚马逊云科技致力于为全球客户提供创新且合规的生成式AI能力,推动人工智能的可持续发展。

亚马逊云科技(Amazon Web Services)是全球云计算的开创者和引领者。提供200多类广泛而深入的云服务,服务全球245个国家和地区的数百万客户。做为全球生成式AI前行者,亚马逊云科技正在携手广泛的客户和合作伙伴,缔造可见的商业价值 – 汇集全球40余款大模型,亚马逊云科技为10万家全球企业提供AI及机器学习服务,守护3/4中国企业出海。


来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70038688/viewspace-3086212/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2024-05-21

  • 博文量
    679
  • 访问量
    566074