关键字: [亚马逊云科技， 生成式AI， Nova Pro， 生成式Ai， 内容审核， 多模态大模型， 审核标准， 特征提取]

导读

张昭是亚马逊云科技的解决方案架构师，他分享了生成式AI如何重塑内容审核。他解释了内容审核的必要性，审核方式的演进历程，以及多模态大模型在内容审核中的优势和应用案例。他还展望了未来多模态大模型能力的提升、融合式审核架构的发展，以及亚马逊云科技在基础设施、组件和安全隐私保护等方面为内容审核提供的支持。最后，他介绍了亚马逊云科技在生成式AI能力提升方面的规划，包括提供更多多模态大模型、模型定制和微调选项，以及针对性的审核解决方案。

演讲精华

以下是小编为您整理的本次演讲的精华。

在当今时代，数字化内容的创建和分享数量巨大，作为内容平台和服务提供商，如何确保这些内容符合一定的标准已经成为他们每天都要思考和处理的问题。这些标准一般来自两个方面:合规需求和定制化场景需求。合规需求通常指遵守法律法规，避免有害内容出现，但这不仅仅是法律要求，也关系到平台的信誉和用户的信任。定制化场景需求则相对多元化，不同的地域、文化、宗教和政治背景下，人们对审核标准的接受程度可能截然不同，如何平衡这些需求，是内容平台每天都要应对的挑战。

所有用户生成内容，无论是昵称、头像、视频、文章评论等，都需要进行审核后才能公开。这就要求审核系统需要具备多模态的理解和审核能力，能够处理文字、图片、音频和视频等不同形式的内容。演讲者认为，审核的本质是达标，而非简单地过与不过。通常的审核流程是:首先提出审核标准，然后根据标准提取审核对象的特征，进行匹配和判断，最后达标分类。这是一个循环过程，需要不断优化审核标准、特征提取和匹配手段。

审核方式经历了四个阶段的演进:人工审核阶段、规则引擎阶段、传统AI模型阶段和多模态大模型阶段。人工审核阶段准确率最高，扩展性强，但效率低、成本高。规则引擎阶段效率高、成本低，但准确率低，扩展性差。传统AI模型阶段效率高、准确率较高、成本适中，但扩展性差。多模态大模型阶段效率高、准确率可观、成本适中，最重要的是扩展性强，能够快速适配新的审核需求。多模态大模型的优势包括:多模态分析能力、语义逻辑能力、谦虚学习(泛化和扩展能力)以及快速部署能力。这些阶段不是简单替代，而是不断补充和完善的过程。

接下来，演讲者分享了三个使用案例:第一个是去年与一家客户合作，使用亚马逊云科技博客上的动漫泰达模型，在一周内为该客户快速部署了儿童虐待内容识别功能，满足了某应用商店的新增审核要求。第二个是为一家中东直播社交应用程序提供了基于Amazon Rekognition和Nova Pro的混合审核方案，满足了基础合规审核和定制化标签识别需求，该客户每年需要审核约14000到15000个视频，不仅需要基础的合规审核，还需要满足产品运营的定制化要求，如视频拍摄角度、姿势、环境等，传统模型的局限性较大，而该混合方案很好地满足了客户需求，并为未来扩展更多自定义标签提供了可能性，无需再投入更多资源调研模型方案。第三个是为一家音视频直播服务提供商构建了实时直播流审核方案，大量采用了Amazon的无服务器服务，客户可以像使用SaaS一样使用该方案，该方案已经通过客户线下测试并部署在生产环境中，正在将服务对接给客户使用。

演讲者提出了两点建议:大模型出现作为补充，而非替代传统审核方式，要有机结合两者的优势;根据业务场景选择合适的方案，不同客户对复杂程度、成本和审核颗粒度的需求不同，如中东APP、欧美APP、金融APP或泛社交项目等。

未来展望包括:多模态大模型能力提升;融合式审核架构，结合传统模式和大模型;实时直播场景下对低延迟高吞吐的处理能力需求。亚马逊云科技可以为客户提供:基础设施创新，如无服务器服务，可基于此构建灵活可扩展的审核方案;构建低延迟高吞吐实时处理引擎的基础组件;安全和隐私保护能力，这已经是亚马逊云科技高级别的任务。在生成式AI能力提升方面:Bedrock大模型平台将提供更多多模态大模型，如即将发布的TowerFlab模型;DJog平台可提供模型定制和微调选项;解决方案架构师团队将深化跟各个行业的合作，开发针对性审核方案，如果客户有需求可联系解决方案架构师团队。

总的来说，这场演讲全面介绍了内容审核的重要性、传统审核方式的演进、多模态大模型在审核中的应用优势，并分享了实际使用案例充分展示了亚马逊云科技在这一领域的能力。最后对未来的发展趋势做出了展望，并阐述了亚马逊云科技可以为客户提供的相关产品和服务。

下面是一些演讲现场的精彩瞬间：

总结

在当今数字内容爆炸的时代，内容审核已成为平台和服务提供商的重要任务，以确保内容符合法规和定制化场景需求。传统的人工审核、规则引擎和机器学习模型各有优缺点，而生成式AI的多模态大模型则为内容审核带来了新的可能性。

多模态大模型具有多模态分析、语义逻辑理解、谦虚学习和快速部署的优势，可以有效提高审核效率、准确性和扩展性。亚马逊云科技通过与客户合作，成功应用多模态大模型解决方案，满足了儿童虐待内容识别、定制化视频审核和实时直播审核等多种场景需求。

未来，多模态大模型能力将持续提升，融合式审核架构将结合传统模式和大模型优势，实时直播场景将要求更低延迟高吞吐的处理能力。亚马逊云科技将在基础设施创新、低延迟高吞吐引擎、安全隐私保护、大模型平台和行业解决方案等方面为客户提供全面支持，共同推进内容审核的发展。

我们正处在Agentic AI爆发前夜。2025亚马逊云科技中国峰会提出，企业要从“成本优化”转向“创新驱动”，通过完善的数据战略和AI云服务，把握全球化机遇。亚马逊将投入1000亿美元在AI算力、云基础设施等领域，通过领先的技术实力和帮助“中国企业出海“和”服务中国客户创新“的丰富经验，助力企业在AI时代突破。