GPU编程Profiler的使用（包括如何配置图形化界面）

在安装完成了CUDA库后&＃xff0c;除了包含的Nsight还有一系列英伟达提供的工具&＃xff0c;比如说Profiler。

“Visual Profiler是一个图形化的剖析工具&＃xff0c;可以显示你的应用程序中CPU和GPU的活动情况&＃xff0c;利用分析引擎帮助你寻找优化的机会。”

其实除了可视化的界面&＃xff0c;NVIDIA提供了命令行方式的剖析命令&＃xff1a;nvprof。对于初学者&＃xff0c;使用图形化的方式比较容易上手。

使用命令的方式如下&＃xff1a;

但是还是想搞一下图形化界面。

如果直接进入Profiler会弹出以下界面&＃xff1a;

所以使用Profiler前需要注意&＃xff1a;


比较坑的一点就是官方说明需要自己手动安装JRE 1.8 u151&＃xff08;新于这个版本的JRE都是不可用的&＃xff01;&＃xff09;才能用Profiler。

Oracle官网上不太好找旧版本的资源&＃xff0c;在这里附一下百度云链接&＃xff1a;
链接: https://pan.baidu.com/s/1b9OcRm8rJ92wn-Giv_sZBg 提取码: fqrh

安装完成后就可以成功进入Profiler的界面了&＃xff01;&＃xff01;

注意&＃xff1a;使用前一定要确认自己已经将相关的CUDA环境变量配置成功&＃xff0c;不然仍然无法使用。

点击File->New Session&＃xff0c;弹出新建会话对话框&＃xff0c;如下图所示&＃xff1a;

选择自己编译生成的.exe文件就可以对程序进行分析了。

界面功能如下&＃xff1a;

上图中&＃xff0c;CPU和GPU部分显示了硬件和执行内容信息&＃xff0c;点某一项则将时间条对应的部分高亮&＃xff0c;便于观察&＃xff0c;同时右边详细信息会显示运行时间信息。从时间条上看出&＃xff0c;cudaMalloc占用了很大一部分时间。下面分析器给出了一些性能提升的关键点&＃xff0c;包括&＃xff1a;低计算利用率&＃xff08;计算时间只占总时间的1.8%&＃xff0c;也难怪&＃xff0c;加法计算复杂度本来就很低呀&＃xff01;&＃xff09;&＃xff1b;低内存拷贝/计算交叠率&＃xff08;一点都没有交叠&＃xff0c;完全是拷贝——计算——拷贝&＃xff09;&＃xff1b;低存储拷贝尺寸&＃xff08;输入数据量太小了&＃xff0c;相当于你淘宝买了个日记本&＃xff0c;运费比实物价格还高&＃xff01;&＃xff09;&＃xff1b;低存储拷贝吞吐率&＃xff08;只有1.55GB/s&＃xff09;。这些对我们进一步优化程序是非常有帮助的。

通过这个窗口可以看到每个核函数执行时间&＃xff0c;以及线程格、线程块尺寸&＃xff0c;占用寄存器个数&＃xff0c;静态共享内存、动态共享内存大小等参数&＃xff0c;以及内存拷贝函数的执行情况。这个提供了比前面cudaEvent函数测时间更精确的方式&＃xff0c;直接看到每一步的执行时间&＃xff0c;精确到ns。