导读

探索如何与Buy with Prime团队一起发布强大的生成式AI解决方案。学习在Amazon Bedrock、Connect和Lex上为使用Buy with Prime的直接面向消费者的商家构建安全、可靠和可扩展的商家支持和客户体验的最佳实践。深入了解评估和试点方法，以快速迭代提高相关性，确保最佳的客户体验。无论您是生成式AI的新手还是有经验的用户，都可以探索该团队对各种选项和框架进行的实践调查，以实现安全迭代。

演讲精华

以下是小编为您整理的本次演讲的精华。

亚马逊云科技 re:Invent 2024会议开始时，主讲人承认生成式人工智能(GenAI)技术取得了令人瞩目的进步。他幽默地谈到了微调AI模型的必要性，强调了GenAI给开发人员带来的兴奋和压倒性影响。主讲人强调，在构建健壮的GenAI解决方案时，理解每个决策背后的基本原理至关重要。

随后介绍了两位共同主讲人Ayush和Sebastian。Ayush一直是Shopper Assistant解决方案的开发先锋，而Sebastian则在推出Merchant Assistant解决方案方面发挥了关键作用。

会议接着探讨了Amazon的Buy with Prime服务如何革新客户购物体验。Buy with Prime使品牌能够在自己的网站上为购物者提供Prime送货服务，简化运营并增加收入。主讲人以购物者购买Bare Minerals产品为例，阐明了Prime送货、评级和评论的优势。

在阐述Buy with Prime对Bare Minerals业务的影响后，主讲人强调了Amazon在各种在线平台上提供Prime购物优惠的愿景。他提到了与Shopify、Salesforce和社交媒体等企业平台集成的选项，以及为喜欢自己动手的商家提供的自定义直接API选项。

Ayush接着介绍了Merchant Assistant AI解决方案，该解决方案可帮助商家更快、更精准地找到相关信息。他阐明了基于关键词搜索引擎的先前挑战，以及AI解决方案如何通过理解商家的查询并提供总结和相关回应来解决这些挑战。

Ayush分享了AI解决方案运作的示例，包括回答有关Buy with Prime定价、目录同步问题的查询，以及通过Buy with Prime Assist解决方案处理客户联系。他还强调了AI解决方案的关键要求，如利用现有知识内容、启用上下文对话和确保无缝客户体验。

Ayush接着阐述了为满足这些要求而采用的架构组件，包括用于利用现有内容的Bedrock知识库和用于启用上下文对话的Bedrock Agent。他分享了使用Bedrock知识库的关键经验教训，如优化数据源、管理爬网节奏和处理动态内容更新。

Sebastian接着介绍了AI解决方案的评估过程。他阐明了最初的手动评估方法，包括生成测试案例、让专家评分AI的回应，以及与可扩展性相关的挑战。

Sebastian介绍了三种用于自动评估的算法:基于LLM的评估、基于NLP的METEOR算法和基于词相似性的ROUGE算法。他还讨论了创建正面和负面测试案例的重要性，以评估预期的业务输出并处理恶意输入。

在可追溯性方面，Sebastian强调能够迅速在系统内定位信息以进行故障排除的重要性。他解释了请求在各个子系统中的传递过程，以及唯一请求ID和集中日志记录对于实现有效可追溯性的必要性。

接下来讨论的最佳实践是数据和客户数据处理。Sebastian强调了使用客户数据个性化AI解决方案的重要性，同时确保敏感信息不会泄露或被滥用。他解释了将客户数据物理隔离在单独的知识库中，并授权请求仅访问相关知识库的方法。

Sebastian接着讨论了改进周期，该周期涉及持续更新AI解决方案的数据和知识库，以与不断发展的业务需求保持一致。这个周期包括生成测试案例、利用专家意见评估AI的回应，并相应地更新内容。

会议还讨论了AI/LLM解决方案特有的安全威胁，包括提示注入、不安全的输出处理、过度依赖和敏感信息泄露。Sebastian解释了Bedrock AI内置的防护措施(如内容策略、主题策略、词策略和敏感信息策略)如何缓解这些威胁。

会议强调了AI/LLM解决方案备份的重要性，因为数据就是AI模型的数据库。Sebastian分享了在S3存储桶上启用版本控制并使用CLI工具将数据恢复到以前状态的方法，从而实现AI解决方案的快速恢复。

最后，主讲人总结了关键要点，强调了Amazon强大的AI/LLM生态系统、Bedrock构建端到端AI/LLM解决方案的能力，以及在成功实施AI/LLM时考虑评估、安全性和其他最佳实践的重要性。

我们正处在 Agentic AI 爆发前夜。 2025 亚马逊云科技中国峰会提出，企业要从 " 成本优化 " 转向 " 创新驱动 " ，通过完善的数据战略和 AI 云服务，把握全球化机遇。亚马逊将投入 1000 亿美元在 AI 算力、云基础设施等领域，通过领先的技术实力和帮助“中国企业出海“和”服务中国客户创新“的丰富经验，助力企业在 AI 时代突破。