本文介绍如何在阿里云 EMR Serverless Ray 集群上,使用 Ray Serve LLM 部署 Qwen3.5 系列模型,并通过 Ray Data 的 ai_query API 实现集群内高吞吐批量推理。其他自建模型可按同样的方式提供模型服务。
注册时间:2021-07-28