ITPub博客

首页 > Linux操作系统 > Linux操作系统 > CUDA总体优化策略

CUDA总体优化策略

原创 Linux操作系统 作者:yyfn风辰 时间:2010-03-15 11:33:21 0 删除 编辑
Normal 0 7.8 磅 0 2 false false false EN-US ZH-CN X-NONE一、选择程序中最耗时的部分,对它进行并行化,道理就是如果你选择了消耗运行时间10%的部分来并行化,就算你达到了10倍的加速,现在的运行时间还是以前的91%,但是如果你并行的是消耗运行时间90%的部分,则现在的时间是以前的19%。

 

二、最大化并行,就是在你选择的部分,使用尽可能多的线程来处理它,并且让每个线程尽可能多的计算,因为如果数据传输的时间太大的话,无论你提高多少倍也没多大作用,对于数据传输,首先要保证传输次数少,其次传输量要小,可以使用cudaMallocHost来加速传输。当然,这和问题本身,算法,硬件都有关系。

 

三、尽量保证全局内存融合,尽量使用cuda已经定义好的向量,他们往往已经对齐了,而且cutil_math.h中还有相关的操作符重载,对自己定义的结构体要使用对齐,如果实在无法实现内存融合的话,使用texture

 

四、使用share,constant存储器,同时保证share不出现memory bank,就算有严重的bank conflict,shared通常也快于global。

 

五、优化register的使用,可以查看cubin文件,如果使用了lmem,那么你就得考虑这个问题了,解决这个问题的方法,使用share,减小block尺寸,后一条可能更实用。

 

六、注意条件分支语句,尽量少用分支;展开小循环,使用inline减少函数调用。

 

七、优化指令使用,尽量使用吞吐量大的指令,而不是相反,比如use-fast-math编译选项。

来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/23057064/viewspace-629488/ ,如需转载,请注明出处,否则将追究法律责任。

上一篇: NVIDIA GPU结构
请登录后发表评论 登录
全部评论

注册时间:2009-12-21

  • 博文量
    28
  • 访问量
    128590