ITPub博客

首页 > 数据库 > 数据库开发技术 > OneFlow深度学习框架交流群讨论精选(三)

OneFlow深度学习框架交流群讨论精选(三)

原创 数据库开发技术 作者:OneFlow 时间:2020-08-06 18:46:34 0 删除 编辑

点击蓝字 关注我们


GitHub:https://github.com/Oneflow-Inc/oneflow

(点击“阅读原文”,即刻进入 GitHub 仓库!)




在今天精选的群友讨论里,涉及到了 OneFlow 的框架中立、开源版本,以及部分 OneFlow 独特的框架设计的相关内容,想了解就赶紧阅读本文吧!



以下内容摘录自2020.7.28 OneFlow 开源前夕的深度学习框架交流群。

讨论过程:



太长不看版本

MPI 已有不能满足对度学习需求的趋势。OneFlow 使用 nccl,或者基于 epoll/RDMA 的自研通讯模块,完成分布式高效通信。

OneFlow 发明了一套独特精巧的机制实现去中心化的点对点数据搬运。


讨论过程:



太长不看版本

OneFlow 与新型研发机构之江实验室联合发布的一站式深度学习平台,相当于一整套私有化部署方案,该平台中的深度学习框架使用 OneFlow。之后会做云服务,类似在线开发环境 colab 的效果。

OneFlow 只有一个版本,就是已经开源的这个版本。


讨论过程:



太长不看版本

Horovod 可以看作是深度学习框架的一个进行分布式的插件,不包含计算部分,OneFlow 的分布式与计算是一个整体。

Zero的功能只是 OneFlow 功能的一个小角落,在 OneFlow 中称为  non distributed optimizer。


讨论过程:



太长不看版本

数据加载与业务逻辑强耦合,OneFlow 不能天生支持所有的数据加载格式。不过利用 OneFlow 提供的自定义 op 的方案,用户按照 OneFlow 规范编写数据加载 op 后,可以将数据加载纳入到 OneFlow 高效的流水并行体系中,享受加速效果。

OneFlow 自带了一些常见格式的数据 loader,效果不错。


讨论过程:




END


扫描文末二维码,加入讨论群,及时获取更多资讯!

点击“阅读原文”,即刻进入 GitHub 仓库!




往期精彩:

OneFlow 线上交流会I Eager 项目讨论(内附完整视频)

TensorFlow 和 PyTorch 迎来了“后浪”

之江实验室联合一流科技、中国信通院、浙江大学等共同研发天枢平台,今日正式开源!

来自社区的 OneFlow Tutorial

【OneFlow 大事记】今日已开源!


如无法入群,可求助OneFlow小助手

QQ:3119703778

VX:OneFlowXZS




点击“阅读原文”,即刻进入 GitHub 仓库!


原文作者:OneFlow;如有侵权,请联系管理员删除。

上一篇: OneFlow开源第一周
请登录后发表评论 登录
全部评论

注册时间:2020-07-25

  • 博文量
    129
  • 访问量
    54940