580
社区成员
发帖
与我相关
我的任务
分享[转]Visual Profiler介绍
摘自：http://blog.csdn.net/kkk584520/article/details/9490233
“Visual Profiler是一个图形化的剖析工具，可以显示你的应用程序中CPU和GPU的活动情况，利用分析引擎帮助你寻找优化的机会。”
其实除了可视化的界面，NVIDIA提供了命令行方式的剖析命令：nvprof。对于初学者，使用图形化的方式比较容易上手，所以本节使用Visual Profiler。
打开Visual Profiler，可以从CUDA Toolkit安装菜单处找到。主界面如下：
我们点击File->New Session，弹出新建会话对话框，如下图所示：
其中File一栏填入我们需要进行剖析的应用程序exe文件，后面可以都不填（如果需要命令行参数，可以在第三行填入），直接Next，见下图：
第一行为应用程序执行超时时间设定，可不填；后面三个单选框都勾上，这样我们分别使能了剖析，使能了并发核函数剖析，然后运行分析器。
点Finish，开始运行我们的应用程序并进行剖析、分析性能。
上图中，CPU和GPU部分显示了硬件和执行内容信息，点某一项则将时间条对应的部分高亮，便于观察，同时右边详细信息会显示运行时间信息。从时间条上看出，cudaMalloc占用了很大一部分时间。下面分析器给出了一些性能提升的关键点，包括：低计算利用率（计算时间只占总时间的1.8%，也难怪，加法计算复杂度本来就很低呀！）；低内存拷贝/计算交叠率（一点都没有交叠，完全是拷贝——计算——拷贝）；低存储拷贝尺寸（输入数据量太小了，相当于你淘宝买了个日记本，运费比实物价格还高！）；低存储拷贝吞吐率（只有1.55GB/s）。这些对我们进一步优化程序是非常有帮助的。
我们点一下Details，就在Analysis窗口旁边。得到结果如下所示：
通过这个窗口可以看到每个核函数执行时间，以及线程格、线程块尺寸，占用寄存器个数，静态共享内存、动态共享内存大小等参数，以及内存拷贝函数的执行情况。这个提供了比前面cudaEvent函数测时间更精确的方式，直接看到每一步的执行时间，精确到ns。
这个其实就是命令行窗口，显示运行输出。看到加入了Profiler信息后，总执行时间变长了（原来线程并行版本的程序运行时间只需4ms左右）。这也是“测不准定理”决定的，如果我们希望测量更细微的时间，那么总时间肯定是不准的；如果我们希望测量总时间，那么细微的时间就被忽略掉了。
后面Settings就是我们建立会话时的参数配置，不再详述。
“Visual Profiler是一个图形化的剖析工具，可以显示你的应用程序中CPU和GPU的活动情况，利用分析引擎帮助你寻找优化的机会。”
其实除了可视化的界面，NVIDIA提供了命令行方式的剖析命令：nvprof。对于初学者，使用图形化的方式比较容易上手，所以本节使用Visual Profiler。
打开Visual Profiler，可以从CUDA Toolkit安装菜单处找到。主界面如下：
我们点击File->New Session，弹出新建会话对话框，如下图所示：
其中File一栏填入我们需要进行剖析的应用程序exe文件，后面可以都不填（如果需要命令行参数，可以在第三行填入），直接Next，见下图：
第一行为应用程序执行超时时间设定，可不填；后面三个单选框都勾上，这样我们分别使能了剖析，使能了并发核函数剖析，然后运行分析器。
点Finish，开始运行我们的应用程序并进行剖析、分析性能。
上图中，CPU和GPU部分显示了硬件和执行内容信息，点某一项则将时间条对应的部分高亮，便于观察，同时右边详细信息会显示运行时间信息。从时间条上看出，cudaMalloc占用了很大一部分时间。下面分析器给出了一些性能提升的关键点，包括：低计算利用率（计算时间只占总时间的1.8%，也难怪，加法计算复杂度本来就很低呀！）；低内存拷贝/计算交叠率（一点都没有交叠，完全是拷贝——计算——拷贝）；低存储拷贝尺寸（输入数据量太小了，相当于你淘宝买了个日记本，运费比实物价格还高！）；低存储拷贝吞吐率（只有1.55GB/s）。这些对我们进一步优化程序是非常有帮助的。
我们点一下Details，就在Analysis窗口旁边。得到结果如下所示：
通过这个窗口可以看到每个核函数执行时间，以及线程格、线程块尺寸，占用寄存器个数，静态共享内存、动态共享内存大小等参数，以及内存拷贝函数的执行情况。这个提供了比前面cudaEvent函数测时间更精确的方式，直接看到每一步的执行时间，精确到ns。
这个其实就是命令行窗口，显示运行输出。看到加入了Profiler信息后，总执行时间变长了（原来线程并行版本的程序运行时间只需4ms左右）。这也是“测不准定理”决定的，如果我们希望测量更细微的时间，那么总时间肯定是不准的；如果我们希望测量总时间，那么细微的时间就被忽略掉了。
后面Settings就是我们建立会话时的参数配置，不再详述。
...全文
请发表友善的回复…
发表回复
qq_20734615 2015-06-01
- 打赏
- 举报
楼主,我用6.5版本的必须要设置时间,不然生成不了时间轴...
longnit 2015-04-19
- 打赏
- 举报
请教楼主，遇到图中这种情况是什么意思？怎么解决？
心灵捕手3 2015-03-23
- 打赏
- 举报
CUDA Profile的时候程序崩溃，可能是什么原因呢？
liduo_13 2014-10-14
- 打赏
- 举报
多谢分享！！
GW786228836 2014-10-10
- 打赏
- 举报
q107770540 2014-10-09
- 打赏
- 举报
0方人也0 2014-10-09
- 打赏
- 举报
厉害厉害厉害厉害厉害
laoer_2002 2014-10-09
- 打赏
- 举报
学习，谢谢楼主分享
cattpon 2014-10-09
- 打赏
- 举报
整理得这么细心！
java圈 2014-10-09
- 打赏
- 举报
wm1912 2014-10-09
- 打赏
- 举报
法国的风格的歌
YCMyTot 2014-10-09
- 打赏
- 举报
多谢分享！！
sinat_21752593 2014-10-08
- 打赏
- 举报
厉害厉害厉害
zcream 2014-10-08
- 打赏
- 举报
没用过看看
