ITPub博客

Pai-Megatron-Patch:围绕Megatron-Core打造大模型训练加速生态

原创 人工智能 作者:阿里云大数据AI技术 时间:2024-09-12 09:49:08 0 编辑
摘要

Pai-Megatron-Patch是阿里云人工智能平台PAI研发的围绕Nvidia MegatronLM的大模型开发配套工具,旨在帮助开发者快速上手大模型,完成大模型(LLM)相关的高效分布式训练,有监督指令微调,下游任务评估等大模型开发链路。

请登录后发表评论 登录
全部评论

注册时间:2021-07-28

  • 博文量
    744
  • 访问量
    2549892

阿里云大数据AI技术