首页 > 云计算 > 公有云实践 > NFL利用生成式人工智能加速内容制作
关键字: [Amazon Web Services re:Invent 2024, 亚马逊云科技, 生成式AI, Amazon Q Business, Generative Ai, Content Production, Nfl, Technical Operations, Data Sources]
美国国家橄榄球联盟(NFL)的媒体团队利用Amazon Q Business的强大功能,彻底改革了他们的内容制作流程。通过将这一尖端技术整合到工作流程中,他们显著加快了媒体资产、比赛集锦、社交媒体帖子和图形的创建和发布速度,同时提高了他们才华横溢的内容创作者的生产力。参加本次会议,了解NFL开创性历程中的最佳实践、对其业务的影响以及需要避免的障碍。您将获得关于如何使用Amazon Q Business来提升内容制作的实用经验。
以下是小编为您整理的本次演讲的精华。
2024年亚马逊云科技 re:Invent大会由亚马逊首席人工智能专家Jesse Frey拉开序幕,他阐述了亚马逊人工智能生态系统及其为不同角色和用例量身定制的一系列产品。本次会议的重点是Amazon AI Business,这是一款基于生成式人工智能的助手,能够回答查询、提供总结、生成内容并根据企业系统中的数据和信息完成任务。
Amazon AI Business拥有多项强大功能。首先,它能够通过快速连接到组织的业务数据、信息和系统,以安全和私密的方式及时、准确、相关地回答业务查询。这使员工能够进行定制对话、解决问题、生成内容并开展与业务运营相关的操作。值得注意的是,Amazon AI Business会根据最终用户的权限尊重现有的访问控制,确保用户无法在人工智能系统之外访问未经授权的数据。
此外,Amazon AI Business提供了超过40个内置连接器,可与流行的企业应用程序和文档存储库(包括S3、Google Drive、Salesforce、Microsoft 365服务、Snowflake和Zendesk等)集成,从而在统一的体验中为员工提供可操作的见解。管理员可以应用防护措施来定制和控制响应,确保与公司的语气保持一致,并遵守领导层制定的道德标准。最后,Amazon AI Business通过用户创建的轻量级应用程序,简化了日常任务,使员工能够创建安全且高度定制的应用程序,满足其独特的数据和业务需求,从而实现无缝的生产力。
Jesse Frey强调了Amazon AI Business在几个用例中展现出的卓越表现。在客户和IT支持领域,Amazon AI Business被用于为最终用户提供生成式人工智能聊天机器人助手,帮助自助解决IT问题,减少新的IT工单。同时,IT服务台支持人员也利用它轻松访问过去已解决的工单和复杂的技术文档,加快了工单解决速度。
另一个突出的用例是风险和合规性,员工配备了经过合规数据和文档培训的生成式人工智能聊天机器人助手,使他们能够在统一的体验中访问最新的风险和合规信息。知识管理助手已成为一个具有影响力的用例,特别是对于那些寻求集中管理知识、提高知识共享和检索质量、减少解决问题或新任务/技术入门所需时间和精力的大型企业而言。
人力资源是Amazon AI Business进军的另一个领域,优化了端到端流程。像Deriv这样的公司利用Amazon AI Business创建了职位描述、招聘广告和为新员工量身定制的入职计划,加快了整个人力资源生命周期。在运营领域,金融机构将Amazon AI Business置于其运营团队的核心,用于维护和更新现有流程,同时监控其绩效。相反,在制造和工程领域,Amazon AI Business使车间运营团队能够查询高度复杂的技术文档,帮助解决供应链问题并培训新员工。
随后,NFL Media资产管理和后期制作总监Eric Peters阐述了NFL与Amazon AI Business的合作历程。NFL Media包括2003年成立的NFL Network,并已发展到包括RedZone和NFL+等平台,为250多名内容创作者和制作人员提供服务,他们不懈努力为狂热的球迷带来内容。
NFL面临三重挑战:人员配备方面,每年需要雇佣数百名季节性员工,需要大量培训;确保内容创作者能够及时找到技术查询的答案;以及最小化由于未解决的问题而导致延迟播出的风险。传统上,NFL每年会提供4-7小时的入职培训,让员工熟悉工作流程、政策和程序。然而,由于数百个复杂的工作流程不断发展,确保整个员工队伍能够高效执行任务至关重要,以免影响播出时间。
在实施Amazon AI Business之前,内容创作者需要通过猜测、发邮件给同事、搜索文档或咨询主题专家等迂回路径获取答案。这个过程可能需要5分钟到24小时或更长时间,而且无法保证准确性。NFL意识到需要一个简化的解决方案,在评估了多种可用工具后,认为Amazon AI Business可能是合适的选择。
NFL与Amazon AI Business进行了为期三个月的概念验证(PoC),之所以选择它是因为其开箱即用、完全托管的性质、众多数据连接器、易于部署以及利用亚马逊云科技的内置安全性(与组织现有的安全措施保持一致)。在PoC期间,NFL从单个S3数据源开始测试各种配置,并逐步发展到两个S3数据源,以实验相关性调优。
NFL的文档分为两类:NFL撰写的特定于其设施的技术信息,以及供应商文档(如用户手册)。相关性调优使他们能够优先考虑与组织相关的NFL撰写文档。通过不断的A/B测试和多个应用程序配置,实现了快速迭代和完善。
PoC的一个关键方面是重写大部分现有文档,采用更加冗长、文本丰富的格式,取代简单的文本和过多的屏幕截图。这一数据优化过程使准确性在PoC过程中提高了20%。
到PoC结束时,NFL已建立了六个数据源:NFL数据(NFL撰写的文档)、具有访问控制文档的管理数据源、用于测试的游乐场数据源、NFL.com的网络爬虫,以及具有生命周期策略的临时数据源(用于短期文档,如活动公告)。
为了评估解决方案,Eric创建了一个包含100个问题和答案的测试集,将响应分类为正确、部分正确/不完整、错误或未回答。他还使用不同的大型语言模型设置了四个不同的基准知识库,进行A/B测试。通过不断的测试和与Jesse Frey团队的合作,准确性从不到70%提高到93%,促使NFL在2024年8月进行生产部署。
这款被昵称为“The Duke”(正式NFL足球的名称)的生产应用程序,已向六个数据源的300名用户推出。用户反馈非常积极,内容创作者现在可以在几秒钟内而不是几分钟或几小时内获得答案,从而能够花更多时间专注于创意工作。培训时间已从4-7小时缩短至1小时,所有数据现在都集中在一个知识源中。
NFL数字平台的制作人Kalin表示,她的团队现在可以在1分钟内获得答案,而以前需要长达一天的时间。负责创建精彩片段的Zach承认,有了The Duke在手,他的团队可以花更多时间制作精彩片段,而不是纠结于技术查询。
Amazon AI Business对NFL的影响是显而易见的,响应时间从5分钟到24小时缩短到了几秒钟。The Duke已成为一个值得信赖的知识源,将所有数据汇总到一个存储库中,使内容创作者能够专注于创意工作。
在会议期间,Eric现场演示了The Duke的功能,展示了它回答技术运营问题、检索运动员发音指南、获取球队日程、将信息重新格式化为项目符号列表,甚至阐明规则变更的能力 - 同时尊重现有的访问控制,并支持用户反馈。
支持The Duke生产部署的架构包括Okta集成用于用户身份验证、CloudFront分发用于在VPN内安全访问数据源,以及分析仪表板供管理员监控使用情况。
虽然最初用户培训是一个挑战,因为许多员工对大型语言模型和生成式人工智能缺乏了解,但专门的有效提示技术培训课程促进了The Duke作为技术查询的首选资源而被快速采用。
展望未来,NFL计划通过与多个内部业务部门合作,探索The Duke的其他用例。其他部门也在尝试自己的Amazon AI Business实例。NFL希望将The Duke与其Playbook Pro项目整合,创建一个统一的用户界面,让内容创作者可以在一个屋檐下访问所有资源。此外,NFL也期待在2024年re:Invent大会期间探索Amazon AI Business推出的新功能。
本次会议总结了关键要点,强调了Amazon AI Business解决方案易于部署、可从小规模开始快速扩展、数据优化的重要性、灵活配置数据源以及用户培训对于成功采用的必要性。Eric指出,在他第一次尝试后大约5到10分钟内,就能够部署一个AI Business应用程序,这凸显了部署的简易性。美国国家橄榄球联盟(NFL)的旅程始于单一S3数据源,后来发展到两个S3数据源以进行相关性调优,最终根据需求定制了六个数据源。尽管最初在用户培训方面存在挑战,因为许多员工对大型语言模型和生成式人工智能并不熟悉,但专门的有效提示培训课程促进了快速采用,使内容创作者能够在几秒钟内而非几分钟或几小时内获得答案。
我们正处在 Agentic AI 爆发前夜。 2025 亚马逊云科技中国峰会提出,企业要从 " 成本优化 " 转向 " 创新驱动 " ,通过完善的数据战略和 AI 云服务,把握全球化机遇。亚马逊将投入 1000 亿美元在 AI 算力、云基础设施等领域,通过领先的技术实力和帮助“中国企业出海“和”服务中国客户创新“的丰富经验,助力企业在 AI 时代突破。
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70038688/viewspace-3089955/ ,如需转载,请注明出处,否则将追究法律责任。