颠覆式编程:软件2.0
译者按:在近四年前,特斯拉 AI 部门负责人 Andrej Karpathy 提出了“软件2.0”的概念,分析和推测了神经网络将如何深刻地改变开发生态。
“OneFlow U” 成诚:应届生是如何在OneFlow中芜湖起飞的?
成诚,2019年清华大学软件工程硕士,在2017年通过OneFlow实习项目加入公司,是公司的第5号员工。现在,毕业2年的他已经成为OneFlow深度学习框架开发组的负责人之一。
一个Job在OneFlow中的执行过程—上篇
以Top down的视角,介绍了分布式深度学习框架OneFlow的Actor、SBP、流式调度等先进的分布式系统架构设计及理念。
一个Job在OneFlow中的执行过程—中篇
本文将重点展开编译期过程,详细梳理编译期过程细节、代码执行流程。下一篇文章将详细梳理运行时过程
一个Job在OneFlow中的执行过程—下篇
本文为《一个Job在OneFlow中的执行过程》系列文章的下篇,也是最后一篇。
AI算力的阿喀琉斯之踵:内存墙
如何才能突破大模型带来算力考验?OneFlow社区团队为大家分享一篇最新论文所指出的内存墙问题与思考。
“OneFlow U” 张晓雨:在这里找到热爱开源的理想状态
“时刻提醒自己要学会冷静思考和工作” 曾经的算法“攻城狮”,现在的一流小伙伴
那些女程序员的传奇人生,比你想得更精彩(文末有福利)
其实世界上很多关于计算机的、非常重要的“第一次”,都是由女性创造的。
InsightFace: 用OneFlow轻松实现超大规模人脸识别模型
本文基于OneFlow实现了大规模人脸识别的解决方案,该方案可以帮助用户轻松使用数据并行 + 模型并行的混合训练,同时还支持了Partial FC采样技术,理论上支持过亿(ID数)级别的人脸识别。
快过HugeCTR:用OneFlow轻松实现大型推荐系统引擎
OneFlow 作为一款通用的深度学习框架,所实现的 OneFlow-WDL 模型性能却超越了专为 CTR Prediction 问题设计的 HugeCTR 框架,内部的技术原理有哪些呢?
一流科技完成5000万人民币A轮融资,高瓴创投独家领投
2月4日,一流科技宣布完成由高瓴创投独家领投的A轮融资,这是一流科技两年来再次开放融资,融资总额5000万元
如何简单理解Google 1.6万亿参数的Switch Transformer论文?
用批判性思维看看这篇论文吧。
“OneFlow U”吴文童:产品和开发者之间是相互作用的
“OneFlow U”是报道OneFlow社区之星的专栏
如何实现一个高效的Softmax CUDA kernel?——OneFlow 性能优化分享
OneFlow 性能优化分享系列课堂开课啦!
围炉夜话:2020年,“创造”的努力与成长
来吧,唠唠家常。
深度解读:让你掌握OneFlow框架的系统设计(上篇)
OneFlow开源5个月后发布的v0.3.2版本,相较于上个大版本,又新增了众多算子和功能(如亚线性内存优化
深度解读:让你掌握OneFlow框架的系统设计(中篇)
本文是OneFlow系统设计分享系列文章的中篇,主要介绍OneFlow的编译期Compiler如何将Job编
深度解读:让你掌握OneFlow框架的系统设计(下篇)
本文主要介绍OneFlow系统的运行时(Runtime)的运行流程,以及参与运行时的各个模块是如何协同工作的
当当当当!OneFlow荣膺“创新之星”,技术实力再受认可
OneFlow深度学习框架因独特的技术创新优势和领先的技术水平,荣获大会颁发的“创新之星”奖项
“黑科技”RDMA如何帮助深度学习模型优化通信网络?
深度学习需要优化通信网络?这可是个值得讨论的话题。