随着 AI 以极快的速度发展，将新硬件与开发者正在创建的模型同步设计至关重要，以确保硬件能够充分发挥模型的潜力。如今，大多数 AI 模型在 GPU（图形处理器） 上训练和运行，GPU 在处理这些模型的性能需求方面表现出色——但它们需要消耗大量能源。专为 AI 工作负载设计的新硬件有望在能效和性能两方面带来提升。
IBM Research 五年前开设 IBM Research AI Hardware Center 时便着手应对这一挑战，并于 2022 年推出了人工智能单元（AIU）芯片，这是首个专为解决 AI 模型高能耗需求而构建的完整片上系统。如今，在阿拉巴马大学亨茨维尔分校研究地球气候变化的研究人员正在测试源自 AIU 的 IBM 芯片，校园内安装的新计算集群有望使运行 AI 模型的能效大幅提升。
新芯片登场
IBM 与阿拉巴马大学亨茨维尔分校（UAH）正在合作，在 UAH 安装一个包含 IBM Spyre 芯片的集群，用于运行先进的 AI 模型。IBM Spyre 是 IBM Research 孵化的首个 AIU 生产加速器，也是为新兴生成式 AI 领域开发新型架构和全栈技术解决方案长期战略的一部分。它属于 IBM Research AIU 家族，该家族还包括 IBM AIU NorthPole 以及模拟芯片方面的研究工作。IBM Spyre AIU 芯片的商业版本——IBM Spyre Accelerator——已于今年秋季早些时候在 Hot Chips 大会上发布。
"UAH 的新集群将使研究人员不仅能够调优和测试这些 AI 基础模型的新应用，还能测试 IBM Spyre 加速器的性能，"IBM Research AI Hardware Center 主任 Jeff Burns 表示。"我们期待看到这些芯片如何在这一激动人心的领域加速 AI 工作流，并最终实现更高效的模型部署。"
在 UAH，IBM 将安装一个由 IBM AIU 和 GPU 组成的集成集群。研究人员将主要使用该集群来部署来自 IBM 和 NASA 的 Prithvi 地理空间及天气与气候模型，测试运营工作负载并运行以吞吐量为重点的工作负载。该集群将运行在 Red Hat OpenShift AI 上，展示利用异构加速器的全栈——硬件和软件——解决方案的价值。
"Red Hat OpenShift AI 旨在提供一个一致且可扩展的平台，加速跨多种硬件环境的 AI 模型部署和测试，"Red Hat AI 工程副总裁 Steven Huels 表示。"在这个新集群中，Red Hat OpenShift AI 为研究人员提供了管理复杂 AI 工作负载的灵活性，使他们能够整合和优化多样化的计算资源以实现最佳性能。Red Hat、IBM 和 UAH 正在共同推动依赖前沿 AI 能力的领域创新，从气候建模到地理空间分析，并展示集成 AI 硬件和软件平台的潜力。"
小芯片，大影响
研究人员预计，IBM Spyre 独特的架构将有助于降低 AI 微调和推理的能耗。在 IBM Research 主导的初步测试中，运行 IBM-NASA 地理空间基础模型推理的 IBM Spyre AIU 集群每瓦每秒可处理 2.1 张图像，而标准 GPU 为 0.6 张/秒/瓦——超过三倍。
当该系统每天分析 70 TB 的流入卫星数据流时，这种效率提升可能带来巨大差异。按照目前的速度，在 UAH 的新 AIU 集群上运行地理空间模型每秒可节省 23 kW 的电力，相当于 20 个美国家庭一年的用电量，以及 85 吨碳排放。
一旦 IBM AIU 集群在校园内启动并运行，研究人员将首先部署能够推动系统性能边界的工作负载，该系统将主要用于 AI 微调和推理。这些实验将帮助研究人员验证 IBM Spyre 的能力，并找到使芯片更加节能的方法。
推进地理空间科学与 AI 人才培养
UAH 的集群将部署在国家空间科学技术中心（NSSTC），UAH 的教职人员、NASA 研究人员和大气科学家将在此并肩工作。“目标是实现紧密协作——研究和教育都在同一栋楼里进行，”UAH 计算机科学家 Sujit Roy 解释道，他领导着 NASA 跨机构实施与先进概念团队（IMPACT）内的基础模型开发团队。
此次部署是 IBM、UAH 和 NASA 之间更大合作的一部分，旨在应用基础模型帮助我们更深入地了解我们的星球。UAH 研究人员与 IBM 和 NASA 合作开发了开源地理空间模型以及天气和气候模型。团队共同构思了这些模型，利用 NASA 卫星数据对其进行训练、扩展，并准备好模型以便在公共平台上发布。在地理空间工作方面，NASA 于今年八月授予 IBM 和 UAH 一项 NASA 马歇尔太空飞行中心团队成就奖。
UAH 的 IBM Spyre 集群现在可用于测试和部署基础模型的各种下游应用，从洪水检测到评估树冠高度或测量重力波。地理空间模型以及天气和气候基础模型均已在开源 AI 平台 Hugging Face 上提供。
UAH 研究团队不仅仅包括 AI 开发者。Udaysankar Nair 是一位大气与地球科学教授，专注于大气数值建模，他从科学角度评估每个模型，以确保“AI 模型的运行方式与物理规律相一致”。Nair 还分享说，Spyre 系统及其上运行的模型未来也有可能被整合到 UAH 的课程中。“这也是我希望最终能从这里产出的成果，”他补充道。
目前，IBM 研究人员正在为 UAH 构建和预填充该系统。一旦发货，它可以在几天内在校园内启动并运行，准备好开始探索隐藏在卫星数据中的一些地球奥秘。
转载声明：本文为转载整理，原文版权归原作者及原站点所有。
原文来源：IBM Research Blog
原文作者：Bethany Hill McCarthy；如有侵权，请联系管理员删除。
