ITPub博客

首页 > 应用开发 > IT综合 > 华为鲲鹏昇腾开发者大会2025启幕:超节点架构与大EP推理方案引关注

华为鲲鹏昇腾开发者大会2025启幕:超节点架构与大EP推理方案引关注

原创 IT综合 作者:卢敏 时间:2025-05-16 18:12:24 0 删除 编辑

  5月23日,以“心怀挚爱,共绽光芒”为主题的鲲鹏昇腾开发者大会2025(KADC2025)将在北京中关村国际创新中心正式拉开帷幕。这场为期两天的技术盛典聚焦人工智能与计算产业的深度融合,吸引了行业领袖、技术专家及全球开发者的广泛参与。

    

        与往届不同,今年的大会将传统线下发布形式升级为长达一个月的技术交流周期,从会前的“鲲鹏昇腾创享周”线上技术直播,到会中的深度实操与案例展示,再到会后的技术公开课,全方位赋能开发者掌握AI时代的最新技术工具。

        在5月19日至22日的“鲲鹏昇腾创享周”中,华为会通过12场线上直播,由多位首席科学家、架构师及研发专家,深度解析当前AI领域的前沿技术。讲解鲲鹏、昇腾的硬核技术,解密代码背后的故事,帮助开发者了解鲲鹏昇腾的技术,加速构建创新的产品和应用。其中,昇腾超节点架构与大规模专家并行(大EP)推理解决方案成为最受关注的焦点。

        在AI计算领域,昇腾将带来话题,如超节点架构如何实现超低时延推理;如何提升训练和推理的效果,强化学习、推理加速;vLLM等主流生态支持昇腾;大规模专家并行、MLA融合算子和低时延通信优化算法等。

         超节点架构:MoE模型的“最佳拍档”

        随着大模型向混合专家(MoE)架构演进,模型专家数量从几十个扩展至数百个,传统服务器集群的通信瓶颈日益凸显。华为昇腾推出的超节点架构,通过高速互联技术将数百张昇腾加速卡整合为“一台逻辑服务器”,实现内存统一编址与超低时延通信。在MoE场景中,专家被动态分配至不同加速卡,卡间通信带宽较传统网络提升数倍,训练效率与推理吞吐量实现倍级跃升。据昇腾专家介绍,基于超节点架构的Atlas 900 A3集群,已在某头部大模型训练中将效率提升2.7倍,并支持15毫秒级超低时延推理,为高并发场景下的用户体验提供了坚实保障。

         大EP推理方案:破解成本与性能困局

        面对大模型推理部署的成本压力,昇腾提出的大规模专家并行(大EP)方案,通过将模型专家分布式部署在多张加速卡上,显著降低单卡显存占用,同时提升吞吐量3-4倍。例如,在与科大讯飞的合作中,该方案成功将单卡并发路数提升至传统模式的3倍,推理时延降低40%。此外,昇腾通过“PD分离部署”技术,将数据处理(Profile)与生成(Decode)环节解耦,进一步优化资源利用率。这一创新不仅适用于互联网高并发场景,也为政务、金融等行业的AI规模化落地提供了高性价比选择。

        此外,本次大会在通用计算领域,鲲鹏也将带来话题,如AI Agent、RAG解决方案、如何通过CPU实现推理加速等。KADC2025不仅是技术的展示场,更是生态协作的催化剂。从超节点架构的硬件创新,到大EP推理的工程突破,华为正通过开放与极致性能,为开发者与行业客户提供“好用、易用、敢用”的AI工具链。


来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/69965512/viewspace-3084542/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2020-03-06

  • 博文量
    299
  • 访问量
    473158