ITPub博客

DistilQwen2.5-R1蒸馏小模型在PAI-ModelGallery的训练、评测、压缩及部署实践

原创 深度学习 作者:阿里云大数据AI技术 时间:2025-04-08 14:49:39 0 编辑
摘要

DistilQwen2.5-R1 系列以少量来自 DeepSeek-R1 的思维链蒸馏数据为基础,通过一系列创新的蒸馏策略,有效强化了小模型的深度思考能力。实验评估结果显示,DistilQwen2.5-R1系列中的多种小规模模型在各项基准测试中表现优异,性能显著超越了其他开源蒸馏模型。

请登录后发表评论 登录
全部评论

注册时间:2021-07-28

  • 博文量
    744
  • 访问量
    2549883

阿里云大数据AI技术