适配PyTorch FX,OneFlow让量化感知训练更简单
大大方便了量化感知训练过程的搭建。
OneFlow v0.9.0正式发布
本次更新包含640个commit,在PyTorch兼容性、分布式编程易用性及性能优化等方面有大幅提升。
OneFlow源码解析:Global Tensor
Global Tensor是全局视角下的逻辑Tensor。
开源风暴吞噬AI界?从Stable Diffusion的爆火说起
为什么AI的最佳交付机制不是API?“开源AI”运动进行时。
OneFlow的大模型分片保存和加载策略
单机内存无法支持大模型分片保存和加载,也存在模型存储难题。
深挖Cerebras:世界上最大AI芯片的架构设计
如何实现数量级计算性能提升?
决胜北交大深度学习算法大赛,冠军揭示通关攻略
他们的解题思路有何不同?如何脱颖而出?
Groq:从头设计一个张量流式处理器架构
“软件定义硬件”的思路意味着什么?
Hugging Face:成为机器学习界的“Github”
Hugging Face的走红是一个有机的社区驱动的过程。
OneFlow源码解析:Tensor类型体系与Local Tensor
构建tensor并不是构造一个对象那么简单,至少要考虑4个问题。
从Core Dump中提取CUDA的报错信息
如何从core dumps中生成提取信息,以便在没有调试信息时,也能恢复诸多信息。
9篇分布式机器学习系统经典论文;深度学习硬件的黄金十年|AI系统前沿动态
每周一期,本栏目主要推荐AI系统、编译器、大模型、硬件、最新活动等相关内容。
逆向工程:揭示Google Colab未公开的秘密
探究Colab内部结构,学习逆向工程工具的半结构化方法。
你以为的推荐系统,其实只是推荐模型
推荐系统设计模式四阶段:检索、过滤、评分和排序。
GPU加速Pinterest推荐模型,参数量增加100倍,用户活跃度提高16%
大模型+GPU为内容推荐效果带来了阶跃式的提升。
OneFlow源码解析:算子指令在虚拟机中的执行
算子/指令是图中的节点,虚拟机负责维护若干个指令队列,以及指令在队列间的状态转换。
左益豪:用代码创造一个新世界|OneFlow U
摆脱现实物理定律的束缚。
Geoffery Hinton:深度学习的下一个大事件
引领深度学习向前迈进的不再是反向传播。
OneFlow源码解析:Op、Kernel与解释器
Op表示算子的描述信息,Kernel在不同设备上实现计算。
一种分布式深度学习编程新范式:Global Tensor
Global View编程提供了单程序单数据(SPSD)的编程视角。