导读

您是否希望创建一个基于RAG的应用程序，围绕贵组织的内部知识构建，同时不compromising安全性和隐私？在本次会议中，了解如何使用Amazon FSx for NetApp ONTAP和Amazon Bedrock构建企业级混合生成式AI管道。深入了解NetApp和亚马逊云科技如何通过解决与数据移动性和基础设施相关的关键挑战来加速您的生成式AI之旅。探索如何利用FSx for ONTAP和NetApp BlueXP工作负载工厂的关键功能，创建一个自动化部署，充分利用供应商和行业最佳实践。本次演示由亚马逊云科技合作伙伴NetApp为您带来。

演讲精华

以下是小编为您整理的本次演讲的精华。

在不断创新的科技领域中，生成式人工智能(GAI)的出现引发了一场范式转移，简化了通往突破性进展的道路。NetApp资深产品经理Yvel Khaledalen登台，阐述了如何利用科技巨头亚马逊云科技的先驱性解决方案Amazon Bedrock，为GAI和检索增强生成(RAG)构建一个健全的数据基础。

Yvel首先回顾了人工智能的发展历程。两年前，创新之路还是一个艰难的过程，需要大量资源和不懈努力，主要局限于预测性人工智能任务，如异常检测。然而，生成式人工智能的出现带来了范式转移，通过采用预训练的基础模型，简化了创新之路。这种范式使组织能够将精力集中在将这些模型调整为满足自身需求上，从而开辟创新途径，为客户带来前所未有的价值。

生成式人工智能有两个突出的应用案例:文本实现(如聊天机器人)和文本与图像合成(用户查询得到视觉吸引力的响应)。生成式人工智能的基础是基础模型，如Amazon Bedrock，组织可以在此基础上构建定制解决方案。通过微调或其他方法，这些基础模型使用特定领域的数据进行定制，从而能够生成新内容并探索新的应用场景，如代码生成，其效率远高于传统的机器学习项目(后者通常需要一年或更长时间的开发工作)。

Yvel指出，大多数客户已在生产环境中采用生成式人工智能。即使是像NetApp这样拥有三十年历史的老牌公司，也已将GAI无缝集成到各个运营环节中，凸显了这一变革性技术的广泛影响。例如，NetApp将GAI嵌入到其Workload Factory解决方案中，以简化人工智能应用程序的部署。

在实施GAI时，组织可以采取多种方法，每种方法都有其独特的细微差别和注意事项。提示工程是一种关注于精心设计查询以从模型获得所需响应的基础方法。检索增强生成(RAG)方法被称为“简单按钮”，它通过将组织的专有数据与基础模型相结合，从而实现创新，而无需进行需要大量计算资源和专业人力的重新训练或微调。

Yvel强调，解锁组织数据以注入GAI独特的本质，从而为用户带来无与伦比的价值至关重要。他以聊天机器人为例，演示了如何通过将组织的知识库与通用基础模型(如Bedrock)相结合，使响应变得与特定上下文相关，从而提升用户体验。

然而，将组织数据集成到GAI管道中并非一蹴而就。Yvel阐述了集中来自不同场所和云端的分散数据的复杂性，以及避免数据重复和创建新数据孤岛的陷阱，并保持数据安全性和访问控制的完整性。正是在这一背景下，他介绍了FSx for ONTAP AI解决方案。

FSx for ONTAP AI是一种基于NetApp数据管理操作系统ONTAP的1:1对等服务，支持多种协议(包括SMB、NFS、S3和iSCSI)，使组织能够将现有数据基础设施扩展到云端，同时保留文件metadata、访问控制列表(ACL)和其他关键上下文信息的完整性，确保数据保真度。值得注意的是，FSx for ONTAP AI跨多个Availability Zones(AZ)，确保高可用性和数据弹性。

Yvel演示了FSx for ONTAP AI如何与亚马逊云科技 RAG管道无缝集成，巧妙地解决了数据新鲜度、安全性和基础设施优化等挑战。他介绍了NetApp Workload Factory for AI服务，该服务通过自动执行创建知识库、应用数据保护措施和实施ACL感知检索和生成等任务，加速了RAG管道的部署，同时过滤掉敏感信息以保持数据隐私和合规性。

随后，NetApp战略合作伙伴Storm Reply的Jens Bowen加入了演讲，分享了他们在利用NetApp解决方案进行生成式人工智能项目时的宝贵经验。Jens介绍了Storm Reply的背景，它是Reply网络旗下的一个品牌，Reply是一家全球IT咨询公司，拥有16，000多名员工，年收入达21亿欧元，在150多个实体中运营。Storm Reply专注于亚马逊云科技，获得了多项亚马逊云科技能力认证、战略合作协议和主服务协议，并拥有一支经过认证的专业团队。

在生命科学行业，合规性和数据隐私至关重要，某客户希望利用生成式人工智能加快研究项目进程并缩短上市时间。他们的目标是开发一个定制于该领域的虚拟助手，同时遵守严格的数据控制要求并部署基础设施。传统上，这需要复制数据、同步数据、应用权限和创建向量数据库基础设施，这是一个复杂的过程，存在数据泄露风险。

然而，借助NetApp Workload Factory，该客户能够简化流程，在自己的账户中部署AI引擎和知识库，同时受益于管理解决方案的SaaS层。AI引擎与Bedrock无缝集成，并摄取客户数据，确保专有信息永远不会离开组织边界。基于FSx for ONTAP AI构建的知识库以原始形式保留客户数据，同时也存储了嵌入，使他们能够利用NetApp解决方案固有的强大数据管理和保护功能。

此外，Workload Factory提供了检索和生成API，使客户能够立即与数据进行交互，无需额外的开发工作。知识库构建过程包括选择数据源(目前支持通过SMB和NFS协议的FSx数据源)和应用数据保护措施(利用NetApp知名的SnapMirror技术进行高效数据复制和灾难恢复)。

值得注意的是，Workload Factory实施了ACL感知检索和生成机制，确保整个过程中用户权限得到尊重。通过将ACL作为metadata嵌入数据，知识库保留了上下文信息，根据用户的访问权限过滤响应。这种创新方法防止了未经授权的数据访问，并维护了客户专有信息的完整性。

此外，Workload Factory通过NetApp的BlueXp服务实现了数据分类流程，从而解决了敏感信息泄露的重大隐患。在将数据嵌入知识库之前，该解决方案会扫描并删除任何私人信息，有效防止意外泄露，确保合规性。

在制造业，效率和自动化至关重要，Storm Reply利用NetApp Workload Factory为客户加速部署生成式人工智能解决方案。其中一个项目是为汽车制造商奥迪实施基于RAG的聊天机器人。该聊天机器人在2022年底于慕尼黑的IA Mobility活动上亮相，是首批在生产环境中部署的基于RAG的解决方案之一。

在项目的初期阶段，Storm Reply不得不应对缺乏Bedrock和Bedrock Knowledge Base的情况，而是依赖SageMaker，并自行承担了大部分繁重工作。然而，这一经历使他们深入了解了大规模部署生成式人工智能解决方案所面临的挑战和细微差别。

凭借这些经验，Storm Reply与Reply网络合作，将专业知识扩展到其他行业，如制药、生命科学、制造业和通过Amazon Connect实现的呼叫中心自动化。他们成功实施了生成式人工智能解决方案，支持研究项目，推动各行业创新，并简化客户服务运营。

Jens阐明了他们在与客户合作时遇到的关键挑战，这些挑战在各行业和组织中都有共鸣。整合现有系统、展示有形的商业价值、实现快速开发以保持领先优势、管理数据隐私和合规性问题，以及在成本压力的约束下运营，都是他们必须应对的艰巨障碍。

Storm Reply战略性部署NetApp Workload Factory成为加速概念验证和生产部署的催化剂，使他们能够在不到一小时的时间内就用真实的客户数据设置演示，这在没有这种强大工具的情况下是难以想象的。Jens展示了一个参考架构，它无缝集成了Workload Factory、Bedrock、灵活的向量数据库、高效的数据存储解决方案、勒索软件保护机制和个人身份信息(PII)的合规性过滤器，确保了数据隐私和法规遵从性。

Storm Reply客户所面临的挑战是多方面的，从与现有系统的集成到展示有形的商业价值。许多组织缺乏统一的云战略或明确的数据战略，但却受到自上而下的指令去拥抱生成式人工智能。战略愿景与运营现实之间的脱节，需要Storm Reply在推进云转型的同时，实现微妙的平衡，并交付有形的成果。

开发速度是另一个关键因素，客户希望快速原型设计和验证用例，这往往与他们传统的过度工程化规划流程相矛盾。数据移动性和集成工作是释放生成式人工智能全部潜力的重大障碍，加之对数据隐私、个人身份信息和特权访问原则的遵从性的担忧，使挑战更加复杂。

在这些挑战的环境中，NetApp Workload Factory成为了一个游戏规则改变者，使Storm Reply能够快速部署概念验证演示和生产就绪解决方案。通过利用Workload Factory，Storm Reply可以在一小时内就用真实的客户数据设置演示，这在没有这种强大工具的情况下是难以想象的。这加速的时间线使Storm Reply能够迅速验证或排除用例，让客户做出明智决策并把握新兴的商机。

Workload Factory能够使用真实的客户数据，同时确保数据隐私和遵守访问控制列表，这是一个关键的区别。通过利用NetApp的BlueXp服务，该解决方案防止了个人身份信息的泄露，降低了数据泄露的风险并保持了合规性。这种方法解决了客户的一个重大顾虑，他们常常因为过度共享和未经授权访问的潜在风险而不愿共享敏感数据。

Storm Reply的参考架构将Workload Factory作为基础，无缝连接到Bedrock及其大型语言模型(LLM)即服务。为了进一步增强灵活性和成本优化，Storm Reply投资开发了自己的LLM网关，实现了负载均衡、多LLM用例，以及根据特定上下文动态选择最合适模型的能力。

与NetApp高效的数据存储解决方案的集成，利用了重复数据删除和数据分层功能，确保了部署的经济高效和可扩展性。勒索软件保护和个人身份信息(PII)的合规性过滤器是架构的组成部分，保护了客户数据并维护了法规遵从性。

随着生成式人工智能的采用不断加速，Storm Reply的重点已转向基于代理的交互，从对话式聊天机器人发展到触发实际行动，如供应基础设施或启动业务流程。这一演进凸显了生成式人工智能的变革潜力，以及像NetApp这样的合作伙伴在帮助组织释放新的创新领域中所扮演的关键角色。

在一场引人入胜的演示中，Yvel展示了Workload Factory的实际运作，突出了它通过NetApp的复制技术SnapMirror创建具有集成数据保护措施的知识库的能力。演示的亮点是应用了一个敏感信息过滤器，有效地从知识库中省略了私人信息，防止其通过RAG管道传播，从而保护了数据隐私。

演讲最后，Yvel坚定地肯定了NetApp与亚马逊云科技的协同合作为构建安全、经济高效和可扩展的生成式人工智能应用程序奠定了坚实的基础。他慷慨地分享了开启这一变革之旅的资源，包括Workload Factory和一个开源项目，并邀请与会者访问NetApp展台进一步询问和讨论。

在不断演进的技术创新领域，NetApp的数据管理实力与亚马逊云科技的前沿生成式人工智能解决方案的融合，为组织开启了前所未有的创造力、效率和商业价值的新领域。通过FSx for ONTAP AI与NetApp Workload Factory的无缝集成，企业可以应对数据集成、安全性和合规性的复杂性，同时利用Amazon Bedrock等基础模型的力量推动创新，为客户提供量身定制的解决方案。

我们正处在 Agentic AI 爆发前夜。 2025 亚马逊云科技中国峰会提出，企业要从 " 成本优化 " 转向 " 创新驱动 " ，通过完善的数据战略和 AI 云服务，把握全球化机遇。亚马逊将投入 1000 亿美元在 AI 算力、云基础设施等领域，通过领先的技术实力和帮助“中国企业出海“和”服务中国客户创新“的丰富经验，助力企业在 AI 时代突破。