随着大模型在不断演进的同时将推理应用大规模推向边缘和端点设备,以及物联网智化、具身智能、 AI智能体(AI Agent)和物理AI等新的AI应用场景和模式的快速涌现,AI赋能设备的主控芯片设计师正面临着全新的挑战。尤其是对于边缘和端点设备,人工智能(AI)的作用无论是作为外部大模型的延申,还是支持设备去为应用提供更好的核心功能,都会使主芯片架构师不得不去面对外部大模型的演进,以及丰富多样的传统应用和新兴应用。
因此,在追求性能、功耗和面积( PPA)的模式之外,架构师们需要富有前瞻性地去选择高性能、高灵活性、可升级和开发者(生态)友好的架构。我们不妨先回顾AI发展的历程,从感知AI到生成式AI,再到智能体AI和物理AI,其应用场景不断拓展。在感知AI阶段,Al技术在语音识别、深度推荐系统和医学影像等领域取得显著进展;生成式AI在数字营销和内容创作方面发挥了重要作用;智能体AI为编程、客户服务、患者护理提供助力;物理AI推动了自动驾驶汽车和通用机器人发展。

伴随着 AI技术的发展,在传统的CPU、GPU和FPGA等计算技术之外,诸如TPU、NPU 和DPU等专门针对特定计算或者模型的新型硬件数据处理加速器也开始出现,它们带来高效率因而在许多场景中得到了应用。与此同时,AI技术不断向新的场景和应用广泛渗透,使得面向特定模型和场景的NPU等架构难以应对模型的变化和场景的多样化,从而使传统的 CPU、GPU计算架构依旧在计算领域占据重要地位。
架构创新迫在眉睫
Imagination Technologies高级业务发展经理黄音分析道:“今天的每一颗主芯片都会耗费芯片设计公司巨大的人力和物力,而且还会牵涉到生态系统中业务伙伴和开发者的路线图,因此在目前快速变化且纷繁复杂的格局下,芯片设计公司反倒应该拨开迷雾倾听计算原语,比如重新回看CPU和GPU 这些传统却又一直计算架构。 作为一家GPU IP 的厂商,Imagination认为未来真正具突破性的架构,不仅要具备高度并行性带来的高性能,而且一定要可扩展、才能满足各种AI模型和算法的快速变化以及多样化的应用。”
以 Imagination这样的领先GPU IP厂商为例,该公司采取了一种立体化的技术与产品策略,其三个维度包括以领跑应用的计算与处理性能为支撑的大规模并行算力水平基座(例如目前最高算力的D系列),面向移动设备、云、桌面和汽车等大的垂直领域的先进而可靠的支撑特性,以及包括其独有硬件隔离技术等在内的应用扩展能力。而在AI技术快速发展的今天,扩展能力已经成为支持芯片设计公司打造平台化主控芯片的关键。

黄音表示: “扩展能力是Imagination即将推出的新一代GPU架构的核心方向:它不仅具备强大的渲染能力,更融合了AI并行计算能力,在边缘AI的场景下能提供灵活又高效的算力。所以,Imagination将帮助芯片设计人员发现真正的破局点,帮助他们去构建一个可以持续适配模型和算法演进、以及支持新兴应用的架构平台——而不是为某个模型做一次性的‘专用硬件定制’,从而避免硬件(处理器)总是费力费钱跟着算法跑的问题。”
其实在推出新一代架构之前, Imagination已经开始帮助客户导入更加灵活的架构。以该公司不久前发布的 Imagination DXTP GPU IP为例,该GPU采用了先进的平衡架构,增加了缓存和系统级带宽,实现了更高的持续性能,几何吞吐量提高50%,不仅能够轻松同时处理图形和计算任务,而且其功率效率还较其前序产品提升了20%,为边缘AI提供了理想的GPU平台。DXTP GPU已经被全球知名科技公司采用,用于对AI 多数据类型处理、计算任务加速和本地内存的支持。

三个落地是成功的关键
当然,对于芯片设计师而言,这需要做到三个必须 “落地”,即模型算法落地、垂直功能落地和开放生态落地。针对模型算法落地,Imagination的突破点是坚持构建一个通用可编程的并行架构平台,并通过开放的编译器和推理后端(backend),支持客户软硬件协同设计和提供适配路径,帮助其客户把诸如Transformer、Diffusion类模型和前沿算法快速落地到GPU上。为此该公司将帮助客户认识到在算法不断演化的时代,架构的“适配力”远比一时的TOPS值更重要。
在垂直功能落地方面, Imagination在移动、汽车、云和桌面等领域深耕了数十年,积累了丰富的经验和许多创新的支撑性技术,可以帮助客户去避开其中的潜在风险和快速在领域内创造优势,这可以从该公司的D系列GPU IP的产品功能创新上可以看出其垂直领域功能落地能力。IMG DXT GPU是Imagination面向移动应用、高端游戏和专业图形设计等应用推出的新一代GPU,它不仅率先在移动平台上提供了可扩展的光线追踪功能,还有2D双速率纹理映射等多项可以提升处理速度和优化内存带宽的技术。
为了帮助桌面和数据中心客户实现高性能的云端 GPU创新解决方案,Imagination推出了DXD GPU IP,初次将Imagination的API覆盖扩展至DirectX,这一举措显著提升了DXD与Windows平台上的应用程序和游戏的兼容性。同时,Imagination 的硬件虚拟化技术 HyperLane支持在单个GPU上安全且独立地运行多达八个操作系统,这意味着当 DXD部署在服务器中时,能够支持多达八个用户同时进行游戏,极大地提升了服务器的使用效率,降低了云游戏的运营成本,并为云游戏行业的发展带来了创新的运营模式。
为了帮助汽车智驾芯片设计企业满足全球汽车智能化需求, Imagination推出了其算力最高可扩展至24 TOPS(INT8)的DXS系列GPU,该系列IP不仅为智能驾驶舱和先进驾驶辅助(ADAS)等应用所需SoC带来澎湃的算力,而且专为诸如汽车处理器等对安全性要求极为严苛的应用,开发了结合GPU的计算模式特点并大幅降低成本分布式功能安全机制(DSM),这为汽车和工业等越来越多需要GPU的图形处理能力和计算能力的电子系统带来了巨大的创新。

Imagination在支持客户实现产业生态落地方面也同样颇费心机,其GPU IP全面支持OpenCL、SYCL、Vulkan Compute等开放标准,与PyTorch、TensorFlow等主流框架完美兼容。如Imagination通过与安卓生态系统合作,优化对LiteRT的支持,为开发者提供丰富工具和示例,便于开发高性能AI应用,充分展现了其GPU架构的适配能力。这种开放生态简化了新硬件与设备的集成流程,避免供应商锁定问题,使客户能在不同平台轻松部署。通过整合多方资源,实现协同优化,提升资源利用率和执行效率,巩固了其在GPU市场的领先地位,为企业应对AI产品快速迭代提供坚实支持。
总结与展望
大模型的下沉、算法创新和 边缘 及端侧 AI 的崛起为 基于 GPU 的主控芯片 带来了新的发展契机 , 在 AI一体机、新 物联网、智能安防 和 自动驾驶等领域 已经出现了巨大的需求 , 这些 设备对 高性能的 图形 处理 和 AI 推理 同时都有越来越多的 需求 ,因此更灵活和可扩展的架构可以使芯片设计公司的产品覆盖更广泛的市场领域,同时可以拥有更长的产品生命周期,也就有了更高的潜在盈利能力 。
这种潜在盈利能力已经在 自动驾驶 领域中开始清晰展现 , 智驾芯片 需要实时处理摄像头捕捉的大量图像数据, 还要结合雷达等其他传感器数据 进行目标识别和路径规划,这对图形性能和 AI 推理能力提出了极高要求 ;同时,诸多教训正在带来越来越严格的安全法规,智驾芯片将必须通过严苛复杂的功能安全( FuSa)认证;再加上 深度学习带来的计算复杂度提升 , 以及计算机视觉领域零样本学习、自监督学习等新技术的涌现 ;它们 让 采用定制化架构的 硬件 难以快速灵活应对,而采用 Imagination的DXS GPU IP的智驾芯片 则 无 重新设计和 构建复杂 芯片 , 还去除了实现 ASIL-B功能安全的成本。
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70044455/viewspace-3081614/ ,如需转载,请注明出处,否则将追究法律责任。