关键字: [亚马逊云科技, Graviton, 自研芯片, Graviton处理器, 云实例性能, 成本优化, 安全性提升]
在这场演讲中,演讲者介绍了亚马逊云科技自研的Graviton 4芯片的突破性能和成本优势。他详细解释了Graviton芯片从第一代到第四代的发展历程,包括核心数量、缓存大小、内存频率等方面的大幅提升,使得Graviton 4芯片在计算性能、内存带宽、AI模型训练等方面都有显著提高,同时性价比也大幅领先于其他处理器。演讲者还分享了多家客户成功使用Graviton芯片的案例,展示了亚马逊云科技Graviton芯片在提高性能、降低成本、保障安全等方面的优势,为客户带来了巨大价值。
以下是小编为您整理的本次演讲的精华。
大家好,我是一名亚马逊云科技的员工,今天我将为大家分享关于我们自研的Graviton处理器的一些内容。首先,我要感谢我的同事Bill和石文兴老师的分享,他们的内容让我获益匪浅,我将在此基础上继续阐述一些重点。
当前,控制成本以保护利润是许多企业所面临的一个主要问题,他们希望能够快速解决这一问题。同时,企业也希望自己的应用能够运行得更快,而成本更低。随着云计算的不断发展,企业已不再考虑是否上云的问题,而是如何在云上实现更快的运行速度和更低的成本。为此,我们利用亚马逊云科技的Spot EC2实例来帮助客户控制成本。而我今天要为大家介绍的,是另一种选择 —— 采用我们自研的Graviton芯片,以降低成本。
我将与戴维公司的联合创始人吴秉锡先生一同为大家分享这个主题。我们的议程分为三个部分:首先,我会向大家汇报一下我们Graviton芯片的最新进展,以及基于Graviton的EC2云实例的情况;其次,我会分享全新的Graviton 4代处理器的一些细节;最后,吴先生将为大家分享一个成功的案例。
在正式介绍Graviton之前,我们先来看一下亚马逊云科技芯片创新的历程。可以说,自研芯片是亚马逊云科技发展过程中的一个非常重要的主线。我们自研芯片有三大产品:第一是Nitro系统,所有云服务器的底层虚拟化和管理系统都由Nitro系统控制和处理;第二就是我们今天的重点Graviton处理器,它与英特尔、AMD和苹果的处理器定位相同,都是CPU处理器,但我们主要在自己的数据中心使用和部署,而不直接面向消费者市场;第三是面向AI训练和推理的Inferentia和Trainium芯片。
为什么我们要自研芯片,而不直接购买呢?第一是专业化方向。作为一家云服务商,我们可以针对云上的工作负载来定制和设计芯片,使其只服务于我们客户的工作负载,而不需要其他冗余的特性,从而控制成本并提高性能。第二是速度,我们可以缩短从定义产品到为客户服务的时间。第三是创新,通过软硬件创新,我们能让用户享受更快的速度和更低的成本。最后是安全性,在亚马逊云科技,安全始终是第一位的考量,我们的Nitro系统可以为云服务器提供安全认证和保障。
接下来,我们来看一下Graviton处理器的发展历程。Graviton定位为通用CPU处理器,所有工作负载都可以在上面部署和运行,包括服务器、应用、开源软件、高性能计算等。从2018年发布第一代以来,经过七年的发展,我们已经推出了第四代处理器。从第二行和第三行的数据可以看到,我们从一个只有16个物理核心、50亿晶体管的小规模处理器,发展到现在拥有96个物理核心、730亿晶体管的大规模处理器。
我再次强调,Graviton的定位是通用CPU处理器,所以市面上所有的工作负载都可以在我们的云服务器上运行。这包括了平时使用较多的用户工作负载,如Web服务器、应用服务器、游戏服务器等,以及一些开源软件如Redis、MySQL、Kafka、Apache等,还有高性能计算应用如天气预测、EDA芯片设计等。事实上,在研发第四代处理器时,我们的芯片仿真任务就是使用第三代Graviton处理器来运行的。
第二代Graviton处理器是该系列真正大范围应用的一代。当时,通过使用第二代实例,我们可以将性价比提升40%,也就是说,以前运行某个应用需要花费1元,现在只需0.6到0.7元就够了,而业务量保持不变。第二,Graviton的生态非常丰富,背靠Arm整个生态,无论是容器部署还是自研应用,都可以做到。第三,第二代实例已经覆盖了亚马逊云科技所有EC2实例家族,包括通用型、内存优化型、存储优化型等。如果您从第二代开始使用Graviton实例,相信您就不会再放弃这款产品了。
到了第三代,经过2到3年的发展,我们进一步改进了一些短板,再次将Graviton的性能推向新高度。从计算性能来看,第三代相比第二代提高了25%,尤其是浮点计算能力提升了一倍,这对HPC和科研领域的客户带来了极大好处。第二,Graviton 3是云厂商中第一个引入DDR5内存的产品,内存带宽直接增加了50%,拥有更多更快的内存可以提升应用速度,对于像Gawa这样的应用尤为明显。第三,我们针对AI推理和传统机器学习模型进行了大量优化,向量计算能力大幅提升,同时支持BF16等数据类型,AI性能因此得到极大提升。
时间来到2023年底,我们发布了第四代Graviton处理器。它的三大亮点是:单颗CPU物理核心数从64增加到96,提升59%;每个物理核心的L2缓存增加一倍,从1MB增至2MB;DDR5内存频率进一步提高到5600MHz,比第三代的4800MHz有所提升。如果您的应用依赖于单实例规模,第四代绝对是更好的选择。目前第四代Graviton处理器正在全球大范围铺货中。
我们基于Graviton 4推出了C系列、M系列、R系列和X系列等多个EC2实例家族,以及存储优化型实例。相比第三代,第四代实例的整体计算性能提升30%,单实例最大规模从64vCPU、512GB内存提高到192vCPU、3TB内存,扩大了3倍,非常适合对单体规模有较高要求的应用。我们还提供了金属裸机实例,基于第五代Nitro系统构建。这些新实例目前已在全球多个区域推出并持续铺货中。
自第二代以来,Graviton处理器得到了来自各行业客户的广泛认可。游戏公司IP Games就是从第二代开始使用的种子客户,在第四代发布后,他们积极部署并反馈性能出色。另一家EDA公司使用Graviton 4实例进行工程验证,验证时间缩短了50%,意味着产品上市更快、成本更低。除此之外,还有超过5万家客户,无论是世界500强还是初创公司,都从Graviton处理器的性能和性价比中获益。
值得一提的是,在过去两三年中,我们在数据中心新增的CPU中,一半是自研的Graviton处理器。我们会优先使用自研芯片,一方面降低自身运营成本,另一方面也将这一优势传递给最终用户,让他们获得更好的性价比体验。
最后,我再为大家介绍一下Graviton 4处理器的一些细节。它基于Arm的Neoverse N2架构,拥有96个物理核心,每个核心配有2MB L2缓存。整个处理器采用了7个小芯片的芯片级封装设计,拥有12条DDR5内存通道和96条PCIe 5.0通道。除了对单颗处理器进行扩展,我们还实现了纵向扩展,最大实例可容纳两颗Graviton 4处理器,单实例规模再次扩大一倍。
在安全方面,我们对处理器与内存、Nitro卡和CPU之间的所有物理接口都进行了加密,安全性得到了极大增强。总的来说,Graviton 4处理器在L2缓存、CPU流水线和架构方面都有了重大改进。从第一代A1实例到现在的Graviton 4,我们在Java和Go应用上的性能提升了4倍,但价格仅涨了20-30%左右,性价比的提升是非常显著的。
通过今天的分享,相信大家对亚马逊云科技自研的Graviton处理器有了更深入的了解。Graviton处理器通过四代发展,在性能、内存、安全等方面不断突破,为亚马逊云科技客户提供了高性能且经济实惠的云计算选择,助力企业降本增效,我们也将继续在这条路上努力前行。
亚马逊云科技自研Graviton芯片系列不断突破性能与成本优势。Graviton芯片定位为通用CPU处理器,经过七年发展已推出第四代产品,从最初16个物理核心发展到现在的96个物理核心、730亿晶体管,性能大幅提升。第四代Graviton 4芯片单核处理能力显著增强,L2缓存容量翻倍,支持更高频率DDR5内存,计算性能提高30%,最大实例规模扩大三倍。凭借专业化设计、加快创新速度和确保安全可靠性等优势,Graviton芯片在降低成本的同时不断提高性能,受到广泛客户认可。亚马逊云科技将持续投入自研芯片,为客户提供更优性价比的云计算服务。
Graviton芯片系列展现了亚马逊云科技在芯片创新领域的持续突破,为客户带来了更快速度、更低成本和更高性能,助力企业实现成本控制和利润最大化。未来,亚马逊云科技将进一步加大自研芯片投入,为客户提供更优质的云计算体验。
我们正处在Agentic AI爆发前夜。2025亚马逊云科技中国峰会提出,企业要从“成本优化”转向“创新驱动”,通过完善的数据战略和AI云服务,把握全球化机遇。亚马逊将投入1000亿美元在AI算力、云基础设施等领域,通过领先的技术实力和帮助“中国企业出海“和”服务中国客户创新“的丰富经验,助力企业在AI时代突破。
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70038688/viewspace-3090894/ ,如需转载,请注明出处,否则将追究法律责任。