关键字: [亚马逊云科技, 生成式AI, CloudONE, 网络加速, 云安全解决方案, 跨境专线连接, 混合云架构, 大模型访问安全]
在这场演讲中,讲者介绍了亚马逊云科技网络加速和安全解决方案,助力企业高效部署AI大模型。他阐述了亚马逊云科技网络如何加速Bedrock服务,为用户提供最快速的体验;如何确保自建大模型和混合云环境下的大模型访问安全,不被攻击者获取敏感数据。演讲重点介绍了亚马逊云科技网络加速方案,包括CloudONE、跨境专线、SD-WAN和域名加速等;以及通过PrivateLink、Transit Gateway和Direct Connect等服务,实现安全访问大模型的多种架构。
以下是小编为您整理的本次演讲的精华。
在当今时代,人工智能(AI)已经成为推动企业创新和发展的关键驱动力。然而,部署AI大模型并非易事,需要高性能的网络基础设施和严格的安全措施。亚马逊云科技(亚马逊云科技)凭借其强大的网络加速和安全解决方案,为企业提供了高效部署AI大模型的完美平台。
加速是部署AI大模型的关键因素之一。亚马逊云科技提供了多种网络加速方案,帮助企业实现快速、稳定的数据传输。首先,亚马逊云科技在除中国之外的全球骨干网上提供了一种名为CloudONE的快速网络构建服务。CloudONE可以帮助用户将其数据中心、企业分支、云资源和工厂总部快速连接,实现分钟级网络架构构建、拓扑管理、网络可视化和事件归档。
针对中国区和海外区的互联需求,亚马逊云科技已经上线了一年多的合法合规的跨境网络服务,可以帮助客户构建中国区域和海外五个区域的互联互通。用户可以在Amazon Marketplace上一键下单,最快在3个工作日即可连接国内外云资源,整个交付时间将在一周之内。
除了上述底层网络工具外,亚马逊云科技还提供了4种上层应用加速方式,让用户使用起来更加易用和方便。第一种方式是完全使用亚马逊云科技的加速互联网,所有的网络出口从亚马逊云科技的北京区或宁夏区去访问海外区,然后使用互联网的方式来访问海外的AI资源,如Bedrock大模型服务或其他生成式AI服务。第二种方式是使用跨境专线,通过三大运营商提供的跨境专线来访问海外的AI资源,交付时间在一周之内。第三种方式是通过Amazon Marketplace上的合作伙伴提供域名加速和SD-WAN加速,企业分支可以通过SD-WAN的方式加速访问海外的生成式AI。第四种方式是合作伙伴提供域名加速,用户访问如Bedrock这样的特定域名即可获得加速效果。亚马逊云科技还总结了一张图,列出了这四种方式在安全性、成本和性能方面的比较,供用户根据实际需求选择合适的加速方式。亚马逊云科技还拿北京区到东京区通过互联网和专线的实际测试数据进行了对比,专线线路(蓝线)比互联网线路(绿线)更加稳定,没有抖动。
安全是部署AI大模型的另一个关键因素。亚马逊云科技提供了多种网络安全解决方案,保护企业的敏感数据免受泄露和攻击。由于生成式AI需要将企业的敏感数据传输到AI引擎中,一旦数据泄露将给企业带来巨大灾难,比如欧洲GDPR对Meta公司的巨额罚款。传统的应用层安全防护已不够,亚马逊云科技在网络协议的底层做到了网络的私密性,从而最大限度地保证了客户数据的安全性。亚马逊云科技强调,只要流量出机房就一定是二层加密的,即使黑客剪断光纤并进行抓包,也无法解密客户的任何敏感数据。
亚马逊云科技提供的PrivateLink服务可以通过内网的方式让用户安全访问亚马逊云科技托管服务,包括Bedrock大模型服务和其他自动化服务,如S3存储服务。所有流量通过加密隧道在亚马逊云科技骨干网上传输,确保数据安全。PrivateLink还支持跨账号和跨区域访问,允许不同账号和区域的用户安全访问大模型服务。对于客户端不在云上的情况,PrivateLink也可以提供对外的Endpoint供本地数据中心客户端访问。
对于需要发布自建大模型的客户,亚马逊云科技建议通过CloudONE Region的PrivateLink服务为大模型的订阅者和使用者提供服务。这种架构可以跨账号、跨区域,并且支持客户端托管在亚马逊云科技云上的情况,实现安全可靠的大模型发布和访问。亚马逊云科技举例说明,右边是用户自建大模型的账号,通过PrivateLink的方式,可以将大模型发布到多个其他账号,而日本区、新加坡区和美西区的账号则可以通过跨区域PrivateLink、VPC Peering或TransitGateway访问美国区域的大模型。
针对混合云场景,亚马逊云科技提供了两种解决方案。第一种情况是大模型客户的业务发布者在本地,消费者在云上。在这种情况下,亚马逊云科技建议在云上和本地之间拉一条安全稳定的专线,并使用PrivateLink服务,后端连接本地大模型,前端为云上消费者提供Endpoint,实现混合云大模型发布。
第二种情况是大模型在云上,但客户在本地数据中心。对此,亚马逊云科技的解决方案是服务提供者构建一个PrivateLink,后端连接云上大模型应用,前端放置一个网络负载均衡器(NLB)。NLB的Endpoint通过专线或VPN映射到本地数据中心,本地客户端即可通过此Endpoint安全访问云上大模型。
总之,亚马逊云科技的网络加速和安全解决方案为企业高效部署AI大模型提供了坚实的基础。通过CloudONE、跨境网络服务、4种加速方式、PrivateLink服务和2种混合云访问方案,企业可以实现快速、安全的数据传输,充分释放AI大模型的潜力,推动业务创新和发展。
下面是一些演讲现场的精彩瞬间:
亚马逊云科技网络加速和安全解决方案助力企业高效部署AI大模型。这篇内容围绕着“加速”和“安全”两个核心词展开,旨在帮助客户安全、高效地访问和发布AI大模型服务。
首先,介绍了亚马逊云科技网络加速方案,包括CloudONE快速构建网络、跨境专线连接国内外云资源、互联网加速、SD-WAN加速和域名加速等多种选择,满足不同场景需求。其次,从网络层面保证数据安全性,通过PrivateLink服务实现内网加密访问亚马逊云科技托管服务,避免中间人攻击和数据泄露风险。针对复杂场景如跨账号、跨区域、混合云等,也提供了相应的安全接入方案。
总的来说,亚马逊云科技致力于为客户提供灵活的网络加速和安全解决方案,助力企业高效、安全地部署和使用AI大模型,释放AI的巨大潜能。
我们正处在Agentic AI爆发前夜。2025亚马逊云科技中国峰会提出,企业要从“成本优化”转向“创新驱动”,通过完善的数据战略和AI云服务,把握全球化机遇。亚马逊将投入1000亿美元在AI算力、云基础设施等领域,通过领先的技术实力和帮助“中国企业出海“和”服务中国客户创新“的丰富经验,助力企业在AI时代突破。
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70038688/viewspace-3091402/ ,如需转载,请注明出处,否则将追究法律责任。