关键字: [ 亚马逊云科技中国峰会2024, Nitro, 云平台构建创新应用, 安全可靠性, 系统性能, 持续创新能力, 机器学习训练推理]

本文字数: 1500, 阅读完需: 8 分钟

导读

在” 亚马逊云科技中国峰会2024” 上, 演讲者介绍了如何基于亚马逊云平台构建创新型应用。他解释了亚马逊云科技如何通过Nitro 芯片、Graviton 处理器、Trillian 和Inferentia 等自研芯片为应用提供安全可靠、高性能和持续创新的能力。演讲重点阐述了亚马逊云科技如何通过提供广泛的计算、存储、网络、数据库等服务, 以及750 多种计算实例类型和生成式AI 助手AmazonQ, 帮助客户实现安全合规、 性能和持续创新。

演讲精华

以下是小编为您整理的本次演讲的精华，共1200 字，阅读时间大约是6 分钟。

亚马逊云科技一直致力于为客户提供安全可靠、性能卓越且具有持续创新能力的云平台, 以助力各行业在云上构建颠覆性创新应用。这种努力体现在多个层面。

首先, 在确保应用系统安全方面, 亚马逊云科技将安全视为头等重要的工作。他们推出了Nitro 芯片, 通过内置安全性, 可以为用户在使用虚拟化环境时提供良好的安全隔离。Nitro 芯片还提供了名为Enclaves 的安全计算环境, 使得对敏感数据的计算可以在一个极其安全的环境中进行。为了进一步保证安全性, 亚马逊云科技与第三方安全认证公司NCC Group 展开了广泛合作, 对Nitro 芯片进行了全面的认证和测试, 相关测试报告可通过链接获取。

除了硬件层面的安全保障, 亚马逊云科技在存储领域也提供了多重安全措施。以数据存储为例, 他们提供了身份访问管理(IAM) 系统, 可以对用户进行广泛授权, 无论是存储、数据库还是大数据系统, 每个用户都可获得合适的访问权限。同时, 亚马逊云科技的密钥管理服务(KMS) 可以对静态数据和传输数据进行全链路加密。此外, 通过CloudWatch, 所有数据访问、更新和篡改操作都会受到全方位的审计和监控。

为了提供数据的弹性, 亚马逊云科技的对象存储服务S3 支持版本控制功能, 用户可以快速回滚到历史版本。亚马逊备份服务则可以对块存储和数据库服务进行按时间点备份, 方便访问历史数据。另外, 亚马逊还提供了托管的灾难恢复服务, 使应用程序能够在发生意外情况时快速恢复到其他区域, 实现高可用的容灾架构。

除了安全性, 亚马逊云科技也非常重视性能表现。他们推出的S3 Object Lambda 可以提供毫秒级的数据访问响应, 每分钟支持百万级并发访问, 相比标准S3 存储层提供10 倍的性能提升, 非常适合构建高性能数据湖平台。

在计算实例方面, 亚马逊云科技通过自研芯片的方式, 为客户提供了卓越的计算性能。他们推出的Nitro 芯片为云平台提供了现代计算基础设施, 将虚拟化IO 和网络访问的负载从CPU 中脱离, 实现了offload 。从2012 年到现在, 亚马逊已经推出了5 款专门设计的Nitro 芯片产品。基于这些芯片的经验, 亚马逊还推出了通用CPU 平台Graviton, 这是业界 云原生的ARM 架构CPU 。

去年, 亚马逊发布了基于Graviton4 的第八代云实例R8g, 相比前代产品R7g, 计算性能提升30%, 内存增加200%, 对内存密集型负载有着出色的性价比表现。知名ERP 厂商SAP 的内存密集型数据库产品在Graviton ARM 架构处理器上的性能提升达30% 。

综合医疗企业通过将线下医疗档案管理系统迁移到亚马逊云平台, 不仅获得了显著的性能提升, 系统负载能力也大幅改善。第三方风控公司Siebel GRC 通过使用无服务器Lambda Function 在云上进行并行大规模计算, 将原先需8 天完成的机器学习处理时间缩减到1 小时, 节省了巨大的时间和IT 投入成本。

容器编排平台Kubernetes 在业界被广泛采用, 很多公司都使用亚马逊的托管EKS 服务进行容器管理。以Letswork 公司为例, 它基于容器的方式进行机器学习训练和推理, 通过使用EKS 进行风险检测和监控, 显著改善了故障预报时间和计算成本。

机器学习和人工智能正在改变我们的生活, 越来越多公司选择部署这些技术来优化用户体验。在亚马逊云平台上, 用户可以使用P 系列基于英伟达GPU 的实例进行模型训练, 使用G 系列GPU 实例和自研Inferentia 芯片进行推理。去年, 亚马逊发布了基于英伟达H100 的P5 GPU 实例, 单台实例包含8 颗H100 GPU, 配合EFA 网络可提供3.2TB 的网络吞吐能力, 通过UltraCluster 技术可实现20 倍的计算吞吐性能提升。

随着机器学习模型规模不断扩大, 对GPU 的依赖也越来越强。为提供更高性价比的计算实例, 亚马逊推出了自研训练芯片Trillian, 相比同类实例可节省50% 的训练成本。第二代Trillian 则面向生成式AI 大模型训练, 可在单个集群中部署10 万颗芯片, 适合训练千亿至万亿级参数的大规模模型。

在推理领域, 亚马逊发布了Inferentia 2 推理芯片, 相比前代产品, 无论是吞吐能力、延迟还是使用加速内存, 性能都有大幅提升, 非常适合对千亿级大模型进行推理。

为了帮助客户持续创新, 亚马逊云科技提供了200 多种功能齐全的服务, 覆盖物联网、人工智能、数据湖和数据库等多个领域, 在HPC 领域也提供了大量托管服务。通过Nitro 芯片将虚拟化能力与计算平台分离, 亚马逊可为用户提供750 多种计算实例类型, 满足不同应用部署需求。

今年, 亚马逊发布了AmazonQ 生成式AI 助手, 可根据用户角色和权限提供个性化访问和信息, 有助于保护企业安全和隐私。用户可以通过自然语言描述工作负载, 由Q 推荐合适的实例类型; 开发人员也可以使用Q 辅助编码和应用升级。

正是由于亚马逊云科技在安全、性能和创新方面的不懈努力, 越来越多的客户将各种丰富类型的应用部署在其云平台之上。同时, 亚马逊还在通过线上线下培训等方式, 赋能合作伙伴和开发者, 助力整个行业的创新发展。

总的来说, 亚马逊云科技通过提供安全可靠的基础设施、卓越的计算性能以及持续创新的能力, 帮助各行业客户在云上构建创新型应用, 解决传统IT 系统面临的计算瓶颈挑战。安全性、性能与性价比、持续创新是企业选择亚马逊云的核心原因。亚马逊还在不断赋能合作伙伴和开发者, 推动整个行业创新发展。

下面是一些演讲现场的精彩瞬间：

亚马逊云科技中国峰会2024 演讲中阐述了企业选择云服务的三大核心考虑因素: 创新型应用部署、运维管理关注点以及客户选择云服务的主要原因。

亚马逊云科技中国峰会2024 上, 演讲者强调了数据保存的三个关键方面: 身份管理、数据加密和审计监控, 确保数据安全可靠。

通过使用亚马逊无服务器计算能力,Siebel GRC 将机器学习处理时间从8 天缩短至1 小时, 大幅节省时间和成本。

通过使用亚马逊托管的 EKS 服务进行容器编排和管理,Letswork 公司大幅提高了机器学习推理和风险监控的效率, 缩短了故障预报时间并降低了计算成本。

在亚马逊云科技中国峰会2024 上, 演讲者阐述了当今大型机器学习模型所需的海量参数和庞大计算资源, 展现了人工智能发展的新高度。

亚马逊推出了自研芯片Trillian, 专门针对机器学习训练场景, 可以节省高达50% 的训练成本。

亚马逊云科技为客户提供安全可靠、性价比高且可持续创新的语音平台, 吸引越来越多的客户将应用部署在其云平台上。

总结

亚马逊云科技为企业构建颠覆性创新应用提供了安全可靠、高性能且具有持续创新能力的云平台。通过自研芯片Nitro 、Graviton 和Inferentia 等, 亚马逊提供了广泛的计算实例类型, 满足不同应用的需求。安全性是亚马逊云的核心关注点, 采用多重措施确保数据访问控制、加密和审计。同时, 亚马逊云平台通过优化网络、存储和虚拟化技术, 实现了卓越的性能和极高的性价比。此外, 亚马逊持续推出创新服务, 助力企业保持竞争力。越来越多的企业选择将应用部署在亚马逊云平台上, 亚马逊也为合作伙伴和开发者提供培训, 共同推动云计算创新。

2024 年 5 月 29 日，亚马逊云科技中国峰会在上海召开。峰会期间，亚马逊全球副总裁、亚马逊云科技大中华区总裁储瑞松全面阐述了亚马逊云科技如何利用在算力、模型、以及应用层面丰富的产品和服务，成为企业构建和应用生成式 AI 的首选。此外，活动还详细介绍了亚马逊云科技秉承客户至尚的原则，通过与本地合作伙伴一起支持行业客户数字化转型和创新，提供安全、稳定、可信赖的服务，以及持续深耕本地、链接全球，助力客户在中国和全球化发展的道路上取得成功。