还记得那个逼真到炸裂的3D生成模型高斯泼溅(Gaussian Splatting)吗?最近,它在多显卡训练上又取得了重大突破。由谢赛宁带领的团队,开发出了一种名为Grendel的并行训练方案,成功解决了高斯泼溅模型训练时的内存瓶颈问题,实现了3.5倍以上的加速。
究竟有多快?先来看看效果对比。
Grendel方案不仅速度惊人,效果也相当能打。通过突破单卡算力和内存的限制,现在可以使用更多的高斯粒子数量进行训练,从而生成更加细腻逼真的3D场景。无论是4K超高清分辨率,还是细节满满的1080p画面,Grendel都能轻松驾驭。
(4K分辨率)
(1080p分辨率)
速度提升3-4倍是什么概念?这意味着原本需要数天甚至数周才能完成的训练,现在只需要短短几个小时就能搞定。
那么,Grendel是如何实现如此惊人的效果的呢?
简单来说,研究人员将高斯泼溅过程巧妙地拆解成不同的阶段,并针对每个阶段采用不同的并行策略,例如数据并行、模型并行等。
例如,对于高斯变换部分,Grendel采用Gaussian-wise的并行策略,而对于渲染和损失计算部分,则采用pixel-wise的并行策略。
除此之外,Grendel还引入了动态负载均衡机制,进一步提高了多显卡训练的效率。
这项研究的意义重大。它不仅为高斯泼溅模型的大规模应用铺平了道路,也为其他3D生成模型的多卡训练提供了新的思路。
想要了解更多技术细节?快来访问Grendel的论文和项目主页一探究竟吧。
论文地址:
https://arxiv.org/abs/2406.18533
项目主页:
https://daohanlu.github.io/scaling-up-3dgs/
以上就是我的分享,希望你能阅有所获,如果想加入社群可以扫下方的二维码添加我的微信,这里有最新的AI资讯和应用案例,互相交流共同提升,备注交流群,我会拉你入群(为了防止恶意广告营销,让大家有更好的交流氛围,现在进群需要9.9的门槛,希望大家理解),如果对加群不感兴趣也欢迎加我微信围观朋友圈,我会经常更新AI领域的好玩的工具。
另外还有一个好消息,我的免费星球通过试运营啦,现在可以加入了,限时免费,直接扫码即可,无需费用。我会分享有关AI+RPA自动化的流程和一些关于AI方面的咨询,欢迎感兴趣的小伙伴加入
原文作者:AI Insights;如有侵权,请联系管理员删除。