在大模型从“参数竞赛”迈向“效能之战”的当下，如何榨干每一枚芯片的算力、打通软硬件协同的“最后一公里”？本次 MeetUp 由 SGLang、阿里云、龙蜥社区主办，邀请多位行业顶尖专家，带来一场硬核技术拆解。活动将深度解析 KVCache 优化、PD/EPD/RL 分离式部署、5D 并行策略等核心技术突破，系统呈现国产 GPU 算力适配 方案；通过 SGLang/Mooncake 团队的前沿技术分享、龙蜥社区智算联盟厂商的圆桌对话，构建覆盖算法架构演进、软硬协同优化、产业生态共建的全栈技术交流平台，为大模型效能提升与自主算力平台落地提供创新思路。

时间：2026.1.31 （周六）13:30-17:45

地点：北京阿里巴巴朝阳园区 · 访客中心B4-314会议室

报名链接： https://openanolis.mikecrm.com/FPAXHh4

主题 ：共建大模型推理生态：Mooncake、KTransformer 与 SGLang

嘉宾：杨珂， 趋境科技技术专家、Mooncake 核心 贡献者 区庆亮， 清华大学在读研究生 、KTransformers 核心开发者

简介 ： Mooncake 是以 KVCache 为中心、面向解耦场景设计的分布式大模型推理架构，通过零拷贝传输、多网卡池化与链路优化、弹性扩展与高效内存利用等技术，助力 SGLang 实现了 KVCache 的高效跨节点传输与共享，显著提升了推理性能。KTransformers 是 CPU/GPU 混合的大模型异构推理框架，基于 AVX/AMX 指令集，实现了 NVFP4、FP8、BF16 等原生精度 MoE kernel，支持了高效的原生精度推理。本次分享将聚焦于 Mooncake 和 KTransformers 的架构设计、关键技术特性、最新进展，以及与 SGLang 的集成实践和应用效果。

主题： ROLL：面向大规模 AgenticRL 的异步解耦与异构算力调度实践

嘉宾：赵予珩，香港科技大学 博士生 、阿里巴巴 ROLL 团队学术实习生

简介： 本次分享将介绍阿里巴巴自研强化学习框架 ROLL 及其针对 AgenticRL 异构负载的深度优化方案。重点解读如何通过异构硬件亲和性调度、细粒度异步编排以及状态感知的按需弹性部署，攻克大规模场景下的通信与计算瓶颈。目前，ROLL 已在三千卡集群、千亿参数 MoE 模型上实现了生产级的极 致吞吐；此外，我们将探讨 ROLL 与 Mooncake 存算分离架构结合的未来演进，进一步释放大规模 RL 后训练的潜力。

主题：从 EPD 到 SGLang-Omni：图像密集场景推理加速实践与下一代全模态推理架构演进

嘉宾：陆扬： 龙蜥社区跟踪诊断 SIG 维护者、SGLang 贡献者

刘斯宇： 阿里云智能集团开发工程师、SGLang 贡献者

简介： EPD 在图像密集型请求（如单次 4–8 张图）下的部署与优化实践，在 1 QPS 负载下相较非分离部署可将延迟降低约 6–8 倍，并在高 QPS 下实现约 2 倍吞吐提升；同时解析 EPD 解耦架构如何支持组件灵活扩展与异构部署，以更高性价比避免 Prefill 节点成倍扩容。随后讲师聚焦 SGLang 面向 Omni 多模态模型的系统演进，分享如何从现有 LLM 推理架构扩展到同时支持文本、图像、音频、视频等多模态输入输出，并讨论 Processor 拆分、数据流与调度设计、多阶段推理协同等关键问题与社区实践方向。

—— 完 ——