导读

Amazon Bedrock Guardrails帮助客户在单一解决方案中为其生成式AI应用构建和定制安全、隐私和真实性保障，无论底层基础模型（FM）如何。参加本次会议，深入了解Guardrails如何在FM原生保护的基础上提供可配置的安全措施。探索企业KONE如何部署Amazon Bedrock和Guardrails，为每天完成超过100，000次现场客户访问的40，000名技术人员提供安全准确的实时AI支持。获取KONE关于采用负责任AI原则的建议，以及如何在提高生产力的同时实现价值交付。

演讲精华

以下是小编为您整理的本次演讲的精华。

在亚马逊云科技 re:Invent 2024的精彩会议中，深入探讨了全球电梯和自动扶梯行业领导者Kone公司的非凡故事。Kone公司战略合作伙伴副总裁兼负责人Taro Hutterin公布了该公司运营的惊人数据。Kone的设备每天都为惊人的20亿人提供服务，这充分证明了他们产品和服务的无处不在。此外，该公司在60个国家/地区维护着170万至180万件设备，充分体现了其运营规模之大。

Taro强调了Kone成功的核心——他们的维修技术人员。这些技术人员每天进行10万次维修，这一数字体现了公司对确保设备安全可靠的坚定承诺。然而，维修量的庞大规模也带来了重大挑战，因为技术人员经常会遇到来自各种制造商的设备，仅Kone维修基地就有至少1000种不同类型的电梯。

加剧这一挑战的是，许多西方国家正在发生人口结构转变，老龄化劳动力没有得到年轻一代的充分补充。这种人口结构变化可能会导致经验丰富的现场服务工程师短缺，进一步加剧了维护不同设备类型时的知识缺口。

认识到这些挑战，Kone与亚马逊云科技开启了变革之旅，利用生成式人工智能的力量开发了Technician Assistant应用程序。这一创新解决方案旨在弥补知识缺口，为技术人员提供所需的信息和指导，以高效解决维修问题，无论设备类型或制造商如何。Kone与亚马逊云科技的合作始于在亚马逊云科技生成式人工智能创新中心的早期接触，他们进行了为期4周的概念验证，探索使用大型语言模型(LLM)解决现场运营挑战(尤其是设备维护相关)的潜力。

这一初步接触的结果令人鼓舞，促使Kone与亚马逊云科技原型团队合作进行为期5周的开发冲刺。在此期间，他们创建了Technician Assistant应用程序的第一个原型，并于今年初在现场进行了验证。初始阶段涉及约50名技术支持人员，他们可以比较该解决方案解决同样问题的能力。受到积极反馈的鼓舞，Kone进入下一阶段，将该应用程序推广到现场服务工程师，目前有约250名技术人员分布在4个国家/地区和4种语言环境中积极使用该解决方案。

Technician Assistant管道是技术集成和数据利用的杰作。它首先对技术人员的输入进行预处理，这可能涉及将各种语言的查询翻译成标准格式。这一步骤对于Kone的全球运营至关重要，确保了跨地区的无缝沟通和理解。

接下来，管道从Kone庞大的文档和历史案例库中检索相关数据。这些数据包括用户手册、现场服务报告、维修报告和物联网(IoT)数据，为应用程序提供了全面的知识库。Kone的数据库会被搜索与正在维修的特定设备相关的信息和事件，从而为技术人员生成初步诊断报告。

然而，并非所有检索到的数据都与当前的维修问题同等相关。为了解决这一问题，Kone实施了一个评估步骤，以评估检索到的文档的上下文和相关性。最初，这是通过一种内部解决方案实现的，使用大型语言模型(LLM)来判断文档的相关性，给出0(不相关)或1(相关)的二进制评分。尽管有效，但这种技术每次迭代大约需要1.02秒，当与整个管道结合时，可能会带来相当大的负担。

认识到优化的潜力，Kone转向使用Amazon Bedrock Guardrails的相关性检查功能。这种全程托管的解决方案不仅更快、更经济，而且提供了详细的评分范围，而不是二进制评估。在预生产测试中，相关性检查功能将每次迭代所需时间从1.02秒缩短到0.48秒，速度提高了2倍。此外，与Kone内部解决方案相比，成本降低了38%。

Taro Hutterin强调了上下文评估和保护在Technician Assistant管道中的关键作用。Kone利用了多个Bedrock模型，每个模型都针对管道中的特定任务进行了优化。例如，Claude 3 Sonnet用于生成查询并将其与数据库进行匹配，以及生成后续问题。Claude 3 Haiku用于评估文档相关性，而最新的Claude 3.5 Sonnet v1模型则负责为技术人员生成精确的指令。

Kone与亚马逊云科技的合作使他们能够成熟其生成式人工智能之旅，从Bedrock预览时期开始，并随着服务及其模型的发展而发展。这种合作使Kone能够在性能和成本之间取得完美平衡，确保Technician Assistant应用程序以最少的技术人员输入提供高质量的响应。

在现场演示中，Taro展示了Technician Assistant应用程序的实际运行情况。该应用程序自动诊断设备问题，提供了正在维修的特定设备在过去12个月的维修记录摘要。它还突出显示了任何最近的故障，包括一个发生了14.14次的故障代码，表明这可能是问题的根源。该应用程序随后解释了故障代码及其可能的根本原因，以及如何解决问题的指导。

该应用程序还会向技术人员提出预设问题，如果没有相关的预设问题，也允许自定义输入。通过利用Kone的文档、图纸和图表，Technician Assistant提供了针对性的指导和信息，使技术人员能够高效解决维修挑战。

来自Kone技术人员的定性反馈证实了该应用程序的有效性。已有数百个问题使用该解决方案得到解决，250名技术人员分布在4个国家/地区积极使用它，其影响是有形的。一位技术人员甚至表示担心在试点阶段后失去使用该工具的权限，这充分证明了它的价值以及与工作流程的无缝集成。反馈显示，该应用程序能够满足不同经验水平的技术人员的需求，为需要逐步指导的人员提供指导，而有经验的技术人员则可以根据需要深入了解信息。

展望未来，Kone对Technician Assistant应用程序的计划非常雄心勃勃。该公司旨在通过丰富数据源、利用第三方数据(在这种情况下，Bedrock Guardrails的保护措施变得至关重要)、实现60个国家/地区和40，000名现场服务工程师的全球推广，以及整合多模态功能(如音频、图像和视频)来增强该解决方案。

Taro Hutterin强调了与亚马逊云科技的合作伙伴关系在Kone的生成式人工智能之旅中的关键作用。这种合作为他们提供了早期接触高性能基础模型、最新服务和实践以及直接获取世界专家的机会。这种协同效应使Kone能够专注于为其流程和客户提供价值，同时利用亚马逊云科技的尖端技术和专业知识。

Kone对创新的承诺是坚定不移的，他们的产品组合中已经有30多种不同的生成式人工智能用例，从像Technician Assistant这样的产品到接近生产的原型，再到早期探索阶段。Taro表示，随着他们继续推进可能性的边界，Kone内部的生成式人工智能用例数量将“爆炸式增长”。

我们正处在 Agentic AI 爆发前夜。 2025 亚马逊云科技中国峰会提出，企业要从 " 成本优化 " 转向 " 创新驱动 " ，通过完善的数据战略和 AI 云服务，把握全球化机遇。亚马逊将投入 1000 亿美元在 AI 算力、云基础设施等领域，通过领先的技术实力和帮助“中国企业出海“和”服务中国客户创新“的丰富经验，助力企业在 AI 时代突破。