10个改变日常的大模型隐藏玩法
那些大模型玩家眼中被低估的用途。
20+公司AI应用产品分析;24名工程师的LLM使用痛点
每周值得看的AIGC应用与产品洞见。
LLM Serving有效吞吐量的最大化实现
现有serving系统的优化吞吐量在时延标准下并不是最优选择。
GPT4o“全能”模型发布;2人AI团队被收购;3款AI搜索引擎
每周值得看的AIGC应用与产品洞见。
LLM推理入门指南③:剖析模型性能
本文分析了影响ML模型速度的不同性能瓶颈。
终极GPU互联技术探索:消失的内存墙
针对许多AI和HPC工作负载,我们过度投资于内存不足的计算引擎。
生成式AI产业经济学:价值分配与利润结构
硬件层占据了近90%的利润率。
OneDiff 1.0发布!生产环境稳定加速SD/SVD模型
本次版本更新包括7大新特性。后续版本将专注于DiT/Sora类模型。
Stable Diffusion XL优化终极指南
如何在任一显卡上获得SDXL的最佳性能和质量?读这一篇就全明白了。
揭示GPU上的批处理策略
执行批处理是现代深度学习系统最重要的一项优化。
百万用户通话新风潮:仅需50秒,无界AI让彩铃变身短视频
OneDiff ×无界AI:加速AI定制视频彩铃
LLM推理入门指南②:深入解析KV缓存
KV缓存是一种折衷方案:以内存换取计算。
OneDiff加速“图生生”,解锁电商AI图像处理新范式
“引入OneDiff后,显著提高了AI图像智能擦除工具的用户体验,为业务发展带来正面效益。”
好久不见!OneFlow 1.0全新版本上线
本次更新共447个commits,包括新特性80+项,功能改进与问题修复共130+项。
OpenAI的组织形态、决策机制与产品构建
OpenAI员工内部视角讲述组织运作机制及未来GPT产品的构建。
TorchDynamo初探②:Torch.FX调研和实践
它的灵活性和易用性都很高。
OneFlow源码解析:Eager模式下的设备管理与并发执行
如何充分利用设备计算能力。
GPT-4创造者:第二次改变AI浪潮的方向
Ilya说,“让我们拭目以待”。
GPT-4,大增长时代的序幕
AI 是一次真正的技术革命。
OpenAI创始人:GPT-4的研究起源和构建心法
“我们在创建新型互联网或类似的东西。”