关键字: [亚马逊云科技， 生成式AI， Amazon Bedrock Agent Core， Ai Agent Deployment， Enterprise Ai Integration， Ai Reasoning Capabilities， Ai Agent Frameworks， Ai Agent Tools]

导读

Swami Sivasubramanian是亚马逊云科技的Agentic AI副总裁，他在re:Invent上发表了“介绍Amazon Bedrock Agent Core”的演讲。在演讲中，Swami阐述了Agent Core如何让开发者能够使用任何框架或模型安全地大规模部署和运行AI代理;具体解释了Agent Core提供了工具和功能来提高代理的效率和能力，专门构建的基础设施来安全地扩展代理，以及构建可信代理的控制措施。演讲重点介绍了Agent Core如何与其他亚马逊云科技服务(如Amazon Bedrock、Amazon Nova和Amazon Marketplace)相结合，使组织能够构建和部署AI代理，用于各种用例，如软件开发、迁移和现代化等。

演讲精华

以下是小编为您整理的本次演讲的精华。

软件世界正在经历一场深刻的转变，这是由人工智能(AI)的出现及其将知识直接嵌入模型的能力所推动的。这些模型已经从简单的数学回归演变为以类似于专家人类的方式进行处理、综合和行动，从根本上改变了应用程序的构建方式。

这种范式转变催生了AI代理——利用AI进行推理、规划和适应以实现用户定义的目标的自主软件系统，代表人类或其他系统完成任务。这些代理可以感知并与其他环境交互，将更高层次的目标转化为可执行的步骤，并随着时间的推移不断学习和提高效率。

代理的出现代表了多个维度的巨大转变:基础软件的构建方式、软件的部署和运营方式、软件与世界的交互方式以及我们与软件的交互方式。实现这种代理未来需要建立在当今的基础之上，例如安全性、适当调整、访问控制、权限、能够在正确时间使用正确数据的数据基础，以及提供合适价格/性能比的基础设施。

亚马逊云科技专注于通过将快速创新与安全性、可靠性和卓越运营的坚实基础相结合，使其代理愿景对每个组织都可及。他们的方法是在接受这些新可能性的同时，以经过验证的原则为基础加速进展，创建能够随着模型的发展、新功能的出现和用例的扩展而适应的系统。

为了实现这一愿景，亚马逊云科技推出了一些新功能，旨在解决构建和大规模部署代理的基本方面。这需要在几个关键领域进行重大改革:

首先，代理由推理驱动，因此获得最佳基础模型和支持它们的功能至关重要。Amazon Bedrock是在亚马逊云科技上构建和扩展任何类型AI应用程序的最简单方式，为任何专有模型系列提供业内最全面的定制功能。亚马逊云科技已宣布按需推理，可以使用金字塔高效微调的自定义模型运行，为用例带来重大的成本节省。

定制不仅可以提高准确性，还可以为生成式AI开启全新的用例。例如，亚马逊云科技正在与麻省理工学院的研究人员合作，他们正在使用监督式微调来改革人造材料研究，这涉及为机器人、航空航天和包装应用设计合成材料。他们定制的模型可以将工程导入设计目标(可以是图像和原型代码导入)作为输入，然后输出可用于模拟的Python代码或结构材料性能预测，实现了95%的性能预测误差降低。

第二个教训是，代理需要在准确性和可靠性方面有所飞跃。亚马逊云科技推出了NoahAct的研究预览版，使开发人员能够通过简单的SDK在网络浏览器中构建执行操作的代理。使用浏览器看似轻而易举，但需要不断判断、解释屏幕上的内容，同时爬网、点击和填写表单。通过层层叠加先进的推理能力，NoahAct已经变得更加健壮，能够应对网站变化并从自身错误中恢复。

在研究评审期间，亚马逊云科技与数千名开发人员合作，通过微调和强化学习来改进NoahAct的底层模型。凭借这些改进，在早期企业用例中实现了90%以上的端到端任务完成率，亚马逊云科技现在正在与客户合作，构建可以高可靠性部署的生产就绪浏览器代理，并增强安全性和访问控制。

一个客户示例是AlviHelp，他们与Rackspace合作，使用NoahAct自动化申请食品援助计划的过程。该代理可以使用相同的一组指令导航数百个设计各不相同的网站，使AlviHelp能够轻松扩展其服务，覆盖提供基于网络的食品援助申请的每个州。Alexa Plus Automation Anywhere、Navan和Tyler Technologies等客户已经在以令人兴奋的方式使用NoahAct。

接下来，为了定义这些新的代理架构，开发人员需要帮助他们构建这些代理的工具和框架。亚马逊云科技发布了TransAgent SDK，这是一个开源框架，与其他需要开发人员为其代理定义复杂工作流程的框架相比，它提供了一种简单、现代驱动的构建代理方法。

TransAgent通过采用先进的推理模型的能力来规划、改变思路、调用工具和自我反思，从而简化了代理开发。它与模型提供商无关，同时还原生支持工具、NCP服务，并与亚马逊云科技服务开箱即用集成。TransAgent 1.0带来了构建多代理系统的新功能，包括A2A支持、代理对话的数据持久性和多代理工作流。

TransAgent获得了模型提供商社区的大力支持，Anthropic、Cohere、Meta、Mistral、Tula、Stability和Writer都做出了贡献，使TransAgent能够更好地支持他们的模型API。

像Anthropic Conversational AI (ACA)和Natural Conversation Protocol (NCP)这样的新兴标准正在解决代理互操作性的挑战，并得到了Anthropic、Meta和Google等行业领导者的广泛采用。这些协议有助于将agentic apps或模型连接到数据源、工具、内存库等，允许代理与各种接口相交互，而无需每个应用程序开发人员为每个目标编写连接。

尽管有这些开源框架和协议，但由于代理的动态和自主性质及其对构建和运营方式的影响，将代理投入生产仍然过于困难。

为了解决这个问题，亚马逊云科技推出了Amazon Bedrock Agent Core，这是一套服务，可以使用任何框架或模型安全地大规模部署和运营功能强大的代理。Agent Core代表了将代理从概念验证转移到生产的一个重大飞跃，具备实际部署所需的规模、可靠性和安全性。

Agent Core包括以下几项服务:

•              Agent Core Runtime:一个专为部署和扩展动态AI代理和工具而设计的安全、无服务器运行时，无论框架、协议或模型选择如何，都可以使用。它可以处理实时和长时间运行的代理工作负载，能够自动扩展以满足需求，并内置检查点和恢复功能，可从中断和故障中优雅地恢复。它可以在几秒钟内扩展到数千个代理调用会话，并且是目前唯一具有完全会话隔离的运行时，每个会话都提供专用的计算环境和完全的内存隔离，有助于防止数据在代理之间泄露。

•              Agent Core Memory:使开发人员能够轻松构建上下文感知代理，提供行业领先的准确性，同时支持用于多回合对话的短期内存和跨用户会话持久化的长期内存，并且能够在协作代理之间共享内存存储。

•              Agent Core Identity:为AI代理提供安全的集中式访问管理，实现与亚马逊云科技资源和第三方服务的无缝集成。它通过为每个代理提供唯一身份，简化了代理的安全和委派访问，使它们能够在不同系统(如GitHub或Salesforce)中以适当的安全控制和适当的授权运行。

•              Agent Core Code Interpreter:使AI代理能够在自己的沙箱环境中安全地编写和执行代码，为多种语言提供预构建的运行时，并具有高级功能，如大文件支持和互联网访问。

•              Agent Core Browser:为AI代理提供快速、安全的基于云的浏览器，可大规模与网站交互，包括虚拟机级别隔离和联合身份集成等企业级安全功能。它与大多数绑定到特定模型的浏览器工具不同，是与模型无关的。

•              Agent Core Gateway:为开发人员提供了一种简单、安全的方式，可以大规模构建、部署、发现和连接工具和代理，并且可以一键集成Salesforce、Slack、Jira、Asana和Zendesk等流行工具。开发人员只需几行代码就可以将现有的API、Lambda函数和现有服务转换为与NCP兼容的工具。

•              Agent Core Observability:帮助开发人员跟踪、调试和监控代理性能，提供代理工作流程每个步骤的详细可视化，使开发人员能够深入检查代理的执行路径、审计所有中间输出，并调试性能瓶颈和故障。

为了说明Agent Core的实际应用，演讲提供了一个构建代理贷款处理器的示例，该处理器可以根据信用和其他数据加速风险分析，然后将其传递给人工最终确定。该示例使用Crew AI框架跨多个托管提供商组合了三个代理，包括一个接收代理、一个信用代理和一个承保代理。

然后添加了Core服务的代理人，使该概念可以投入生产，例如Memory用于个性化体验、Gateway用于安全访问Lambda等工具以轮询存储在DynamoDB中的更新付款数据、S3用于访问历史贷款文档、外部API用于收入验证、Code Interpreter用于处理诸如调整债务收入比重等计算，以及Runtime用于安全可扩展部署。可观测性用于监控和调试代理人性能。

另一个关键创新是亚马逊云科技市场中的AI代理人和工具，这是一个集中的目录，包含来自Anthropic、Salesforce、Deloitte等知名供应商的AI代理人、工具、解决方案和服务。这使客户能够通过NCP和ACA获益于无缝的API部署，并使用Agent Core Runtime和Gateway部署预构建的代理人和工具。

Agent Core和亚马逊云科技市场共同让客户能够在Agent Core Runtime上部署和扩展Agent Core数据、市场上的预构建代理人和工具，并允许他们的代理人通过Agent Core Gateway安全连接到市场上的现成集成解决方案。

Ashok Shrivastava是Intuit的高级副总裁兼首席数据官，他提供了一个客户案例，讨论了Intuit的GenOS(生成式AI操作系统)如何为小企业提供代理体验。Intuit创建了四个代理人——客户代理人、财务代理人、支付代理人和会计代理人，帮助小企业主发展和管理客户、改善现金流、获得付款和做账。

Intuit的代理体验建立在一个高级架构之上，包括来自亚马逊云科技的基础技术，如SageMaker、Bedrock、Aurora和MSK，以及Intuit自己的数据能力，如流处理、批处理、数据湖、事件总线和向量数据库。GenOS支持与工具、上下文和内存、可观测性以及内置防护的GenRuntime的编排。Intuit拥有每天产生600亿次机器学习预测的AI和数据系统，基于95PB的数据，每个客户拥有超过100万个属性。

Intuit的方法强调以目的为导向的构建、仅在必要时使用AI、衡量投资回报率，并赋予小团队快速行动的能力，亚马逊云科技是加速他们这一旅程的关键合作伙伴。

演讲接着讨论了AI的智能受其可访问数据的限制，以及传统数据挑战(如数据库孤岛、互操作性差或治理不一致)如何成为AI创新的障碍。答案在于向量——AI的语言，它捕获数据中的上下文和关系、存储记忆、检索相关信息并关联PB级数据的见解。

随着公司越来越多地投资于知识渊博的AI代理人，他们的向量嵌入从数百万扩展到数十亿甚至更多。这些庞大的AI数据集必须长期保存，以实现持续学习、维护历史上下文、支持模型重新训练和微调，并实现合规性、可审计性和性能基准测试。

然而，当前的向量存储选项并非为此用例而设计，因为它们针对热数据和高频查询进行了优化，而不是代理人所需的长期、很少访问的向量集。这造成了根本的不匹配，因为向量索引可能比原始数据本身更大。

为了解决这个问题，亚马逊云科技推出了Amazon S3 Vectors，这是第一个内置向量支持的云对象存储。使用S3 Vectors，客户可以以S3的经济高效、弹性和按使用付费模式存储和搜索大规模向量数据集，以适合批处理和非实时真实应用等不频繁查询工作负载的后续查询性能访问向量。

S3 Vectors与更好的知识库本机集成，降低了向量存储成本，并与Amazon OpenSearch Service集成，创建分层向量策略，使客户能够在S3中存储长期向量数据集，并使用OpenSearch Service处理需要高查询吞吐量和低延迟的工作负载。S3 Vectors改变了向量存储的经济模式，使客户能够以90%的成本节省与其他解决方案相比，无需容量规划或基础设施开销即可扩展。

演讲强调，从S3 Vectors的经济高效向量存储和查询，到Amazon Bedrock中的新定制选项、对开放框架和互操作性标准的支持，再到Agent Core中全新的一套服务，这些创新共同使亚马逊云科技成为构建和部署代理人的最佳之选。

虽然模型和基础设施改变了组织构建代理技术解决方案的方式，但代理AI的真正力量在于重塑整个行业的工作流程和人力生产力的能力。亚马逊云科技通过预构建的代理解决方案，使更多组织能够实现这一转型。

软件开发是代理人应用的一个领域，因为该领域的任务和数据与基础模型中嵌入的知识非常吻合。亚马逊云科技宣布预览推出Kiro，这是一个新的代理IDE，通过结合自然语言提示和适当的软件工程实践，以简化的体验帮助开发人员从概念到生产。

Kiro有助于生成可扩展且易于维护的代码，可以放心地部署到生产环境中，将静态规范转化为随时间演进的活的自文档化的真理来源。它还包括用于自动化繁琐任务(如更新测试或文档)的代理钩子。

对于喜欢使用现有IDE的开发人员，亚马逊云科技提供了Amazon CodeWhisperer，这是一款可集成到各种IDE或从命令行使用的AI编码助手。CodeWhisperer不断发展，新功能包括扩展NCP支持、跨25多种语言的实时代码编辑、自动多文件重构、智能代码审查等。CodeWhisperer CLI每天处理数百万次用户交互和工具调用。

亚马逊云科技帮助客户的另一个领域是迁移和现代化，通过亚马逊云科技 Transformer代理人，利用亚马逊云科技19年的经验，尽可能简化从.NET框架、大型机等的迁移。

Matt Dimish来自Thomson Reuters，他提供了一个客户案例，讨论了亚马逊云科技 Transformer如何帮助他们每月现代化150万行代码，速度提高4倍，让开发人员能够专注于解决真正的客户问题并提供更流畅、更集成的体验。

Thomson Reuters学会了从小处着手，然后扩大规模;让一个核心的平台工程师团队参与;不要等待完美时机;理解AI是赋能而非取代团队;并将持续现代化作为核心能力，将AI融入他们的文化。迁移到Linux使Thomson Reuters的运营成本降低了30%，大幅减少了技术债务，并通过消除了过时的依赖项来消除风险。

Thomson Reuters目前并行运行7个.NET现代化项目，现代化数百万行代码，而不是小项目，以解锁这些代码库中多年的知识产权，以新方式为客户利用它、降低基础设施成本，并获得更大的灵活性，加快步伐、在需要时转变方向，并在取得进展的领域加大投入。

演讲强调，仅有技术是无法实现最大影响的，亚马逊云科技正通过专业服务、教育计划和游戏化来实现可及性。

亚马逊云科技在亚马逊云科技 Gen AI创新中心额外投资了1亿美元，汇集了全球AI科学家、战略师和工程师团队，帮助数以千计的客户(如Yahoo! Finance、AstraZeneca和Xingentao)快速从想法到生产。

亚马逊云科技还推出了一项全面计划，支持职业生涯初期的专业人士和大学生发展AI技能和素养，目标是在第一年内吸引270万年轻人参与。

此外，亚马逊云科技还推出了亚马逊云科技 AI League，这是一个游戏化平台，任何人都可以在这里学习、竞争和创新，参与终极AI对决，在提示工程、使用亚马逊云科技服务(如Amazon SageMaker AI和Amazon Bedrock)进行模型定制等方面获得实践经验并解决挑战。AI League将于下午3:15在纽约峰会上启动，有机会赢取2035年re:Invent门票和re:Invent总决赛的现金奖。

总之，这篇演讲阐述了亚马逊云科技在代理AI时代的愿景和全面的服务套件，为客户开辟了通往与AI代理人共创美好未来的道路。从Amazon Bedrock进行推理和模型定制，到Agent Core大规模部署和运营代理人，再到S3 Vectors实现经济高效的向量存储和查询，以及Kiro、CodeWhisperer和亚马逊云科技 Transformer等创新，亚马逊云科技正在赋予企业以安全、经济高效的方式开发、部署和扩展AI代理人的能力，同时保持在安全性、可靠性和运营卓越方面的坚实基础。

下面是一些演讲现场的精彩瞬间：

演讲者强调了人工智能赋予人们通过决心和使用现代工具将想法变为现实的变革力量。

定制的人工智能模型正在改变人造超材料研究领域，实现了95%的性能预测误差降低，并在这一高度专业化的领域中提供了一个易于使用的研究助手。

Netflix的人工智能和数据系统每天产生600亿次机器学习预测，依托95PB的数据和每个客户超过50万个属性。

一张高级架构图展示了Anthropic的基于亚马逊云科技服务构建的GenOS平台，为大型语言模型提供编排、上下文、记忆和防护措施，同时整合人类专业知识以获得最佳结果。

演讲者解释了GenOS(驱动他们的代理体验的操作系统)的关键组件，包括大型语言模型、GenStudio、GenRuntime和GenUX。

Swami Sivasubramanian宣布了亚马逊云科技 AI League，这是一个令人兴奋的人工智能挑战学习和竞赛平台，包括使用亚马逊云科技服务进行提示工程和模型定制。

总结

在这场引人入胜的演讲中，亚马逊云科技推出了一套革命性的服务和创新，旨在帮助组织释放AI代理的变革潜力。主旨发言人Swami Sivasubramanian介绍了Amazon Bedrock Agent Core，这是一套革命性的服务，可简化大规模部署和运营AI代理，确保安全性、可靠性和灵活性。

首先强调的关键点是推出了Agent Core Runtime，这是一种安全、无服务器的运行时，专门用于部署和扩展动态AI代理，无论使用何种框架、协议或模型选择。这项创新服务提供了无与伦比的可靠性、可扩展性和安全性功能，包括会话隔离和优雅恢复能力。

其次，Swami推出了Agent Core Memory，这是一项简化开发上下文感知代理的服务，提供行业领先的准确性，并支持短期和长期记忆持久性。该服务自动管理内存系统，让开发人员专注于构建智能代理。

第三个关键点是推出了Agent Core Identity，这是一个集中的AI代理访问管理系统，可与亚马逊云科技资源和第三方服务无缝集成。该服务简化了代理的安全和委派访问，确保跨不同系统的适当授权。

最后，Swami强调亚马逊云科技致力于通过将快速创新与安全性、可靠性和运营卓越的坚实基础相结合，使这种代理愿景对每个组织都可及。他强调在亚马逊云科技市场推出AI代理和工具，这是一个集中的AI代理、工具、解决方案和服务目录，来自领先供应商，实现与Agent Core服务的无缝部署和集成。

我们正处在Agentic AI爆发前夜。2025亚马逊云科技中国峰会提出，企业要从“成本优化”转向“创新驱动”，通过完善的数据战略和AI云服务，把握全球化机遇。亚马逊将投入1000亿美元在AI算力、云基础设施等领域，通过领先的技术实力和帮助“中国企业出海“和”服务中国客户创新“的丰富经验，助力企业在AI时代突破。