ITPub博客

首页 > 数字化转型 > ERP > Triton后端已适配AMD平台,后续更多平台适配AMD硬件

Triton后端已适配AMD平台,后续更多平台适配AMD硬件

原创 ERP 作者:multiabl 时间:2023-09-05 11:00:58 0 删除 编辑

      根据公开的资料显示,Triton是一种类似于Python的开源编程语言,它可以使没有CUDA经验的研究人员顺利编写高效的GPU代码(可以理解为简化版 CUDA),同时号称小白也可以写出与专业人士相媲美的代码,不过Triton初期只支持英伟达 GPU。

  OpenAI声称:Triton只要25行代码,就能在FP16矩阵乘法上达到与 cuBLAS 相当的性能。而有数据显示,OpenAI已经开始在最新的Triton 版本中合并AMD ROCm相关分支代码。

  而这或许意味着最新 Triton后端已适配AMD平台。此外有消息透露称,他们已经通过了“test_core.py”上的大多数单元测试环节,posbguq但由于各种原因跳过了一些测试。

  OpenAI还宣布将于 9月20日上午10点至下午4点在加利福尼亚州山景城的微软硅谷园区举行Triton 开发者大会,而日程安排中就包括“将 Triton 引入 AMD GPU”和“Triton 的英特尔 XPU”两大环节。

  此外,由于Triton是开源的,比起闭源的CUDA,其他硬件加速器能直接集成到Triton 中,由此可以减少为新硬件建立AI编译器栈的时间。

  从这方面来说,Triton 已经是 PyTorch 2.0后端编译器关键构成部分。

  Multiable万达宝ERP能够适用于各个行业,协助企业解决数字化升级难点

  而早前时间,AMD ROCm则主要是采用 Hipify工具实现 CUDA兼容,而伴随AMD开始为 RDNA 3消费级显卡提供 ROCm 支持,预计后续将会有更多平台选择适配AMD硬件。

  而早前发布的PyTorch 2.0版本中,TorchInductor便引入了OpenAI Triton 支持,还可以为多个加速器和后端自动生成快速代码,与此同时实现用Python取代CUDA编程来写底层硬件的代码。

  以上源自互联网,版权归原作所有


来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/69908037/viewspace-2980859/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2019-01-19

  • 博文量
    94
  • 访问量
    84848