导读

Amazon EC2提供多种容量使用和预留模型，让您可以为您的工作负载和预算选择最合适的组合。这些模型包括容量预留、按需实例、用于机器学习的Amazon EC2容量块等。参加本次会议，了解如何以最适合您业务的方式组合这些模型。您将学习如何管理容量以提高利用率和可用性。

演讲精华

以下是小编为您整理的本次演讲的精华。

在亚马逊云科技 re:Invent 2024大会上，Dave Ward（EC2容量负责人）和Brian Felipe（按需容量预留产品经理）就“管理Amazon EC2容量和可用性”进行了深入探讨。他们阐述了亚马逊云科技推出的四种不同容量模型，旨在满足客户多样化的需求，并在成本效率和容量可用性之间寻求平衡。

首先是按需模式，Dave Ward解释了其基本前提——按分钟付费，并根据需求灵活启动或关闭实例。这种模式的魅力在于其弹性，得益于亚马逊云科技在108个Availability Zone和34个区域提供超过850种实例类型。然而，关键在于亚马逊云科技在幕后通过精心的容量规划、优化实例放置、硬件重建、塑造内部需求以及专注于利用率，努力创造“无限容量的幻象”。

值得注意的是，亚马逊云科技新增了14个Local Zones，将地理覆盖范围扩展到大都市区域，包括为渲染工作负载提供服务的好莱坞数据中心。这些Local Zones提供了与所在区域特定用例相匹配的定制实例选择。

Dave Ward强调了按需实例的多样化用例，如白天的周期性使用（9点到5点）、短期工作负载和稳态运营，使按需模式成为许多客户的首选。

尽管如此，按需模式依赖于共享容量池，如果其他客户占用了容量，可能会影响可用性。为了缓解这一问题，Dave Ward强调了跨实例系列、大小、代数和芯片架构（如Graviton）的灵活性至关重要。他透露，目前约50%的容量是Graviton架构，强调跨不同芯片架构的灵活性对于获取额外容量的重要性。

Dave Ward建议合理使用EC2 Fleet和Auto Scaling，让客户通过基于属性或手动选择实例来定义灵活性。他指出，在他17年的亚马逊云科技职业生涯中，只遇到过一个在大规模运行时出现问题或代数差异的情况，这凸显了重新评估资格假设的重要性。

转而谈到按需容量预留(ODCRs)，Brian Felipe阐明了其独特价值主张——通过专用预留获得保证的容量，但需要支付24/7费用。与之前将容量预留与计费折扣捆绑在一起的区域预留实例(ZRIs)相比，ODCRs作为一种独立产品推出，与计费方面分离。

Brian透露，约70%的亚马逊云科技客户利用ODCRs的开放实例资格，类似于公共池，任何与参数匹配的启动都会自动在容量预留中运行。其余30%的客户选择目标实例资格，在其账户内创建私有池以隔离关键工作负载。

ODCRs的功能依赖于“匹配”概念，其中实例和ODCR之间必须在五个参数上匹配：实例类型、Availability Zone、平台、租赁模式和实例资格(开放或目标)。目标资格特别允许客户为关键工作负载创建私有池，确保独占性。

客户可以通过预留ID或资源组来定位ODCRs，后者更适合大规模部署。值得注意的是，Auto Scaling组现在可以优先将实例启动到ODCRs中，利用基于属性的实例选择功能，这是大会前一周刚刚推出的新功能。

为了满足可扩展的ODCR管理需求，亚马逊云科技最近推出了一系列功能，包括调整大小、拆分、修改资格和分配计费所有权。这些增强功能为集中式容量管理铺平了道路，让客户能够对容量预留、计费、指标和仪表板进行细粒度控制。

此外，亚马逊云科技推出了未来日期ODCRs，使客户能够提前120天预留即将到来事件所需的计算资源。为了补充这一产品，亚马逊云科技推出了ODCRs的CloudWatch指标聚合和统一的EC2全局视图，促进全面的可见性和决策。

转向容量块，Dave Ward阐述了它在民主化机器学习(ML)计算容量方面的作用，尤其是针对生成式AI等资源密集型工作负载。客户可以指定一个时间段来预留ML容量，亚马逊云科技会在指定期限后收回容量，避免了闲置资源的过度付费风险。最初，容量块可以预留一天到一个月的时间，但亚马逊云科技最近扩展了这一功能，允许客户预留长达六个月的容量块。

对于有时间限制的ML训练运行，容量块显得非常宝贵，使客户能够进行实验和迭代而不会产生过多成本。最近，亚马逊云科技将容量块的可用性扩展到俄亥俄州和东京等新区域，为更广泛的客户群提供服务。

为了满足在容量块上进行ML训练的日益增长的需求，亚马逊云科技宣布即将推出SageMaker Training Plans。这一产品将容量供应与SageMaker作业配置无缝集成，简化了整个过程，为客户提供了一致的体验。

演讲还阐述了亚马逊云科技在机器学习领域持续创新，例如推出了Trinium2或Ultra Servers，拥有令人印象深刻的83.2 petaflops计算能力。这些服务器有望彻底改变推理和训练工作负载，进一步巩固了亚马逊云科技为机器学习应用程序构建定制硅的承诺。

最后讨论的是EC2 Spot实例，以亚马逊云科技的剩余计算容量为基础，提供高达90%的巨大折扣。然而，这种成本效益伴随着潜在中断的代价，因此Spot实例最适合异步、可并行化和可时移的工作负载，能够容忍这种中断。

Dave Ward分享了一个令人信服的客户案例，一家制药公司利用Spot实例的力量，将原本需要五年的药物研究项目缩短到仅两天。通过突破进入亚马逊云科技的剩余容量，该公司不仅实现了显著的成本节约，还将预计需要五年的研究过程加速到仅两天，从而发现了多种药物化合物而不是仅一种。

另一个客户用例展示了Spot实例在可时移工作负载方面的威力。一个在晚上运行批处理工作负载的客户可以利用亚马逊云科技下午5点到次日上午9点的非高峰时段内增加的可用性和高达10-20%的潜在节省。这种灵活性使客户能够优化工作负载调度和资源利用。

为了促进Spot实例的采用，亚马逊云科技开发了一套工具，包括中断通知、检查点、中断行为(停止/休眠)和故障注入模拟器。这些工具使客户能够为Spot实例构建工作负载，确保无缝运行并最小化中断。

跨实例池的灵活性是最大限度利用Spot实例优势的关键因素。亚马逊云科技提供Spot Placement Scores，这是一个相对指标，显示不同池中容量的可用性。此外，Auto Scaling组和EC2 Fleet使客户能够定义灵活性，进一步提高了有效利用Spot实例的能力。

Dave Ward强调了可时移工作负载对于Spot实例的重要性，指出亚马逊云科技在下午5点到次日上午9点的非高峰时段内只经历五分之一的中断水平。此外，客户通过在这些非高峰时段运行工作负载，可能实现高达10-20%的节省，因为剩余容量更加充足。

在总结时，Dave Ward强调亚马逊云科技将继续在这四种容量模型上不懈创新，努力为客户在可用性和成本之间达成最佳平衡。他强调了利用灵活性、使用Savings Plans等成本优化工具以及密切关注亚马逊云科技即将推出的容量管理创新的重要性。

在亚马逊云科技 re:Invent 2024大会上的演讲全面探讨了EC2容量和可用性管理的复杂领域。通过Dave Ward和Brian Felipe分享的见解，与会者深入了解了不同的容量模型、它们的细微差别以及亚马逊云科技为客户在追求成本效率和保证计算资源方面推出的创新解决方案。

我们正处在 Agentic AI 爆发前夜。 2025 亚马逊云科技中国峰会提出，企业要从 " 成本优化 " 转向 " 创新驱动 " ，通过完善的数据战略和 AI 云服务，把握全球化机遇。亚马逊将投入 1000 亿美元在 AI 算力、云基础设施等领域，通过领先的技术实力和帮助“中国企业出海“和”服务中国客户创新“的丰富经验，助力企业在 AI 时代突破。