关键字: [亚马逊云科技， 生成式AI， Bedrock， 生成式Ai落地企业， 创新法则， 业务需求驱动， 敏捷性价比， 私有化数据差异化]

导读

在这场演讲中，演讲者阐述了亚马逊云科技在生成式AI落地企业方面的四大创新法则: 1. 基于业务需求逆向思考AI应用系统构建，找到合适的场景并确定优先级; 2. 敏捷性和性价比是落地和规模化的关键，亚马逊提供了多种工具以满足不同用户需求; 3. 私有化数据是企业差异化竞争的关键，需要重构面向AI的数据底座; 4. 安全和负责任是应用落地的底线，亚马逊提供了多种保障措施。 演讲者还分享了亚马逊在生成式AI模型、推理优化、数据集成等方面的最新进展，并展望了AI Agent的发展趋势。

演讲精华

以下是小编为您整理的本次演讲的精华。

科技发展日新月异，在过去不到5年的时间里，我们见证了大模型生成式人工智能(AI)的蓬勃发展。2022年底，ChatGPT的问世掀起了一场AI革命，2023年成为了生成式AI概念验证的一年。随着更多横向应用案例在2024年逐渐明确，比方说翻译、物料生成、多模态识别等，2025年无疑将是生成式AI实现商业价值的关键一年。这一趋势得到了多位演讲嘉宾对AI助手(Agent)重要性的印证，Agent被视为实现AI商业价值的关键一环，犹如大脑需要双手和躯干的支撑一般。

生成式AI模型能力的发展可谓日新月异。最新发布的Claude 3.7模型被公认为构建Agent的最佳选择，其在编码能力方面表现出众。另一款新发布的Sonic语音到语音模型，能够保留语音交互中的语气信息，为客户服务场景带来全新体验。面对如此多的模型选择，亚马逊云科技(亚马逊云科技)推出了Bedrock平台，用于管理模型的编排、执行、开发、评估和优化，已积累了成千上万的企业用户。

要将生成式AI Agent落地到企业，需遵循四大创新法则:基于业务需求逆向构建AI应用系统;敏捷性和性价比是关键;私有化数据是差异化竞争的关键;安全与负责任是应用落地的底线。

第一条法则是基于业务需求逆向构建AI应用系统。不同的业务场景对数据安全、投资回报、合规治理、负责任AI等方面的重视程度不同，应先明确优先级，再敏捷落地。例如，货拉拉(国外品牌拉拉木)AI团队在6周内就完成了15个生成式AI应用的模型匹配，应用上线仅需10分钟，质检抽样效率提升10倍，关键在于他们先找到了15个业务场景，而非建造技术平台后再寻找应用场景。另一家智齿科技公司则围绕客户联络中心这一明确的应用场景，基于亚马逊云科技的Bedrock和相关组件支持，构建了Agent AI解决方案，降低了90%的模型构建时间，缩短70%的人工介入时间，人工介入减少42%，主因是明确的应用场景使ROI量化变得简单。

第二条法则是敏捷性和性价比是落地和规模化的关键。亚马逊云科技为应用使用者、开发者和模型构建者提供了多种工具，如Q系列、Bedrock等，支持敏捷部署。Q系列提供了生产率与工作流优化，Bedrock则是一个管理多Agent的框架，并可与开源协议MCP集成，将现有系统API化。Q Developer可加速软件开发生命周期自动化，包括程序编写、测试用例生成、文档编写、安全漏洞和Bug识别等，亚马逊云科技内部已完成1万多个应用的迁移，节省4500个人年和2.6亿美元年度成本。Bedrock Agents则能连接企业系统，自动化多任务多步骤流程，如一位解决方案架构师用Q CLI写了三句话，第一句列出对方所有对象，第二句将其复制到Amazon S3对象存储，第三句检查文件是否相同，实现了在半小时内同步6万个文件。

亚马逊云科技还提供了多种优化成本效率的方案，如跨区域推理可在流量高峰时分散到多个区域的模型后台，且数据不离开当前区域，保证合规;模型蒸馏能将大模型知识传递到小模型，提高性价比，目前已与Anthropic、Meta和亚马逊云科技自有模型AmDenova集成;专用ASIC芯片Trainium和Inferentia分别用于训练和推理，AmDenova Micro基于Trainium优化后，无论输出速度还是单个Token价格都排名第一，计划到Spring 3时将采用3纳米制程，性能比Spring 2提升40%，总体翻倍，这也是Anthropic在新一代训练集群中选择Trainium的原因。

第三条法则是私有化数据是差异化竞争的关键。企业需重构面向AI的数据底座，整合结构化、非结构化和多模态数据。亚马逊云科技的SageMaker、Unify Studio与Bedrock共同提供了统一的AI开发环境，管理数据和AI应用场景。例如，华宝新能基于Bedrock构建了LED知识库，快速开发了客户助手，让客服直接采纳生成内容的回答率提高30%，单次解决率达70%，系统成本降低20倍。亚马逊云科技还提供了多种方式将企业私有数据与Bedrock对接，如知识库、数据自动化排序、蒸馏或微调时的数据排序等。

第四条法则是安全与负责任是应用落地的底线。亚马逊云科技保证数据不会用于模型改进，也不会与模型提供商共享;在传输和静态时提供数据隔离和加密;通过跨区域推理，数据仅保留在API处理区域内。亚马逊云科技还提供了Guardrails功能，能对模型输入输出进行管控，采用策略检测内容合规性，有效拦截55%-85%的有害内容，过滤幻觉的能力高达75%。

展望未来，AI助手的发展趋势包括:将出现多智能体协作的AI系统;不同AI助手将为不同场景提供个性化体验，高级记忆功能是必需的;根据Gartner预测，到2028年，将有超过33%的企业软件应用集成Agent AI功能，企业15%的决策将由Agent AI系统完成;AI助手将改变企业流程和管理模式，如Workday CEO认为未来数字化员工和人类员工一样需要HR管理，催生人机混合的新模式。

为助力企业高效、安全地落地生成式AI应用，亚马逊云科技提供了丰富的模型选择、敏捷性价比解决方案、数据基座和算力基础设施，并与企业共同构建负责任的AI系统，已启动1000个应用计划，呼吁开发者参与推进AI在企业的落地。AI助手的未来已经来临，企业应当即刻行动起来，抓住这一发展机遇。

下面是一些演讲现场的精彩瞬间：

The speaker thanks the audience for attending and introduces the topic of AI intelligence and the challenges and next steps for AI in the global market.

张涛解释了AI代理系统的三个阶段:助手、单一代理和多代理系统，后者无需预先设置工作流程，而是由代理自主组织工作流程。

Huolala’s AI team rapidly deployed 15 generative AI applications across 15 business scenarios in just 6 weeks， improving quality inspection sampling efficiency by 10 times.

Q Developer提供了开箱即用的方式，大大加速了软件开发生命周期的自动化，包括程序编写、测试用例生成、文档编写、安全漏洞识别、Bug识别等，并支持使用Q CLI管理基础设施，还提供了代码转换能力。

亚马逊云科技 正在开发名为 Trainium 和 Inferentia 的 ASIC 芯片，用于加速机器学习训练和推理，并计划在 Spring 3 中推出 3 纳米制程的新芯片，性能将比 Spring 2 提升 40%。

总结

生成式AI正在迅速发展，企业需要制定有效策略来将其融入业务流程。亚马逊云科技提出了四大创新法则，帮助企业顺利实现AI落地:

首先，要从业务需求出发，逆向思考AI应用系统的构建。不同场景下，企业需要权衡数据安全、投资回报、合规治理、负责任AI等优先级，选择合适的切入点。其次，敏捷性和性价比是落地和规模化的关键。亚马逊云科技提供了多种工具，如Q系列、Bedrock等，满足不同用户的需求，实现高效部署和优化成本。

第三，私有化数据是企业差异化竞争的关键。亚马逊云科技提供了SageMaker、Unify Studio和Bedrock等工具，帮助企业构建面向AI的数据底座。最后，安全和负责任是应用落地的底线。亚马逊云科技采取多种措施，如数据隔离、加密、Guardrails等，确保AI系统的安全性和可靠性。

随着AI Agent的发展，企业将面临多Agent协作、个性化体验、人机混合等新模式。亚马逊云科技致力于为企业提供全面的模型选择、敏捷性价比、数据基座和算力基础设施，共同推进生成式AI在企业的落地。

亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者。提供200多类广泛而深入的云服务，服务全球245个国家和地区的数百万客户。做为全球生成式AI前行者，亚马逊云科技正在携手广泛的客户和合作伙伴，缔造可见的商业价值 – 汇集全球40余款大模型，亚马逊云科技为10万家全球企业提供AI及机器学习服务，守护3/4中国企业出海。