8 月 28 日,“训推融通 全栈协同,PyTorch 生态共建 MeetUp” 在上海张江科学之门模力社区顺利举办。本次活动汇聚了来自壁仞科技、PyTorch、龙蜥社区、阿里云、上海交通大学、密瓜智能等产学研领域的顶尖技术专家,吸引 150 余位开发者到场参会。现场座无虚席、互动热烈,开发者踊跃提问、交流不断。
(图/活动现场合照)
活动伊始,壁仞科技战略规划高级副总裁魏明,Java Champion、Java 标准委员会 JCP-EC 中国唯一代表、阿里云技术总监李三红,PyTorch 基金会亚洲总监李昊阳先后发表开场致辞。
魏明表示,训练与推理边界正快速消融,深入适配 PyTorch 生态是下一代 AI 基础设施的竞争关键。壁仞科技持续迭代全栈软件平台 BIRENSUPA™,并推出首 个开源项目 TorchSUPA,作为新一代产品 BR20X 的开源首 发,基于 PyTorch 现有机制分层复用、逐步替换。他强调,壁仞坚定走开放共建路线,愿与社区、云厂商、学术界及创业公司协同,共建开放透明的计算底座。
李三红认为,软件生态是 AI 规模化应用的核心关键。相较于标准化的 CPU 生态,AI从算力、编译、框架到推理全链路碎片化,生态割裂问题突出,也是制约产业规模化落地的瓶颈。
李昊阳介绍,PyTorch 开源基金会已从单一 PyTorch 项目,升级为覆盖训练、推理框架与 AI 基础设施的伞形基金会。其中,社区共建生态项目作为技术资源储备,持续沉淀优质能力;基金会直属孵化项目聚焦推理优化等场景,由官方统一运营孵化。
此次 MeetUp 大咖云集,专家们围绕框架适配、编译器优化、云端推理系统、新后端集成等核心议题展开硬核技术分享,精彩不断。
Intel 工程师、PyTorch Accelerator Integratio n Working Group 联合主 席于广业从社区视角系统梳理了硬件加速器体系的设计理念、类别划分与核心功能,并详解了各类加速器的接入路径,为国产算力融入 PyTorch 生态提供了一份“官方指南”。
(图/于广业
)
鉴于 PyTorch 在 AI 基础设施中的重要地位,壁仞科技推出了适配其 GPU 产品的 PyTorch 插件 TorchSUPA,助力开发者更便捷地使用壁仞科技算力。目前,TorchSUPA 已正式开源,开发者可前往壁仞开发者社区体验并反馈。壁仞科技基础框架高级技术专家冯思博对 TorchSUPA 的技术特点进行了详细分享。
(图/冯思博)
阿里云高级技术专家王卓深入剖析了 Torch.compile 的落地收益、使用边界与针对性优化实践,展示了在生产环境中极 致释放国产计算卡性能潜力的可行路径。他指出,PyTorch 是最重要的 AI 基础设施之一,通过 torch 相关优化,已在诸多 AI 场景中实现 20% 至 50% 的性能提升。
(图/王卓)
上海交通大学计算机学院助理研究员、龙蜥社区智算联盟成员单位代表庞浦分享了其团队在应用层、框架层与编排层的协同探索,核心目标是将 “独占 GPU 分配”转变为 “异构硬件弹性共享”,从而实现真正的按需资源供给。
(图/庞浦)
密瓜智能联合创始人兼 CTO 李孟轩同样聚焦推理优化,由浅入深地讲解了如何借助 PD 分离技术与 llm-d 等开源项目,持续提升集群整体算力利用率。
(图/李孟轩)
壁仞科技深度学习框架高级架构师黄亚玲分享了 PyTorch 新后端集成的最佳实践。她表示,TorchSUPA 之所以能快速接入 PyTorch 框架,核心在于采用 PrivateUse1 这一第三方硬件接入 PyTorch 的标准入口。简言之,TorchSUPA 站在 PyTorch 现有机制与 CUDA 生态资产之上,分层复用、逐步替换,有效降低新后端建设与用户迁移的双重成本。
(图/黄亚玲)
从硬件加速器体系的设计,到 TorchSUPA 的开源落地;从云端编译优化的实战经验,到推理集群调优的方法论,本次 MeetUp 不仅是一场技术分享的盛会,更是一次国产算力与开源生态“双向奔赴”的集中展示。
最后,感谢本次活动各位嘉宾的精彩演讲,感谢壁仞生态和产品市场团队与龙蜥社区工作人员对本场活动的组织和支持,使得本次活动圆满举办。
—— 完 ——
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70004278/viewspace-3184390/ ,如需转载,请注明出处,否则将追究法律责任。