8 月 28 日(周五),由 PyTorch 基金会、龙蜥社区指导,壁仞科技和龙蜥社区智算联盟主办的「训推融通 全栈协同— PyTorch 生态共建」 MeetUp 将在上海(浦东新区中科路1750号张江科学之门模力社区T 1 栋 35F 大会议室(学林路地铁站 2 号口步行200米))举办。本次活动邀请了来自壁仞科技、PyTorch、龙蜥社区、阿里云、上海交通大学、密瓜智能等产学研领域顶尖技术专家,围绕框架适配、编译器优化、云端推理系统、新后端集成等核心议题展开深度分享。
除了满满的硬核技术干货,本次活动还为大家准备了限量精美入门礼,活动末尾更有惊喜抽奖环节,千万别错过哦! 长按识别下方二维码即可报名,文末点击阅读原文直达报名页。
本次 MeetUp 演讲亮点一览:
演讲主题:Device-Agnostic PyTorch: Abstracting Across Accelerators
嘉宾:于广业,Intel 工程师,PyTorch Accelerator Integration Working Group 联合主 席
简介:本次分享,将 从社区的角度介绍下 PyTorch 设备无关 API 的设计、类别、功能和每个 accelerator 该如何去集成。
演讲主题 : BIRENSUPA™适配 PyTorch 概述
嘉宾:冯思博,壁仞科技基础框架高级技术专家
简介:本次分享将介绍 BIRENSUPA™ 软件平台适配 PyTorch 的相关工作。
演讲主题:Torch.compile+国产计算卡在阿里云的优化实践
嘉宾:王卓,阿里云高级技术专家
简介:本次分享将系统介绍 Torch.compile 在阿里云的实际落地情况,涵盖其带来的性能收益、当前面临的使用限制,以及阿里云围绕 Torch.compile 开展的针对性优化实践。进一步地,我们将结合阿里巴巴真实的业务需求,探讨如何基于 Torch.compile 深度挖掘国产计算卡的性能潜力,实现极 致加速。
演讲主题: 面向智能推理的低时延高吞吐云计算系统探索
嘉宾: 庞浦,上海交通大学计算机学院助理研究员、龙蜥社区智算联盟成员单位代表
简介: 智能推理对云计算系统的核心诉求在用户侧和云商侧存在天然矛盾。将介绍近期在云计算系统中编排层、框架层、应用层进行的探索工作,以应对在满足用户诉求的同时最大化云平台的有效吞吐这一核心挑战。
演讲主题: LLM推理集群优化的三个阶段
嘉宾: 李孟轩,密瓜智能联合创始人兼 CTO、HAMi 作者
简介: 本次演讲将围绕提升 vLLM 集群的算力利用率展开,由浅入深的讲解如何使用 PD 分离等技术,并通过 llm-d 等开源项目优化 vLLM 集群的算力利用率。
演讲主题: PyTorch新后端集成最佳实践
嘉宾:黄亚玲,壁仞科技深度学习框架高级架构师
简介:本次分享将介绍 Torch SUPA 是站在 PyTorch 现有机制和 CUDA 生态资产之上,分层复用、逐步替换,从而降低新后端建设与用户迁移成本。
更多详细议程见下方海报:
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70004278/viewspace-3180736/ ,如需转载,请注明出处,否则将追究法律责任。