NVIDIA 技术博客：使用最新的 Nsight Compute 进行高级内核评测

nvdev 2022-10-21 10:53:40

这篇文章最初发表在 NVIDIA 技术博客上。有关此类的更多内容，请参阅最新的 概括 新闻和教程。

NVIDIA Nsight Compute 是用于 CUDA 应用程序的交互式内核分析器。它通过用户界面和命令行工具提供详细的性能指标和 API 调试。 Nsight Compute 2022.1 更新了数据收集模式，为性能分析提供了新的用例和选项。

立即下载>>

有什么新鲜事吗

距离重播

Nsight Compute 的这一版本扩展了现有的重播模式，提供了范围重播的高要求功能。 Range Replay 捕获并重放分析应用程序中 CUDA API 调用和内核启动的完整范围。度量与整个范围相关联，而不是单个内核。这允许该工具在不序列化的情况下执行内核，并支持出于正确性或性能原因而需要并发运行的评测内核。范围由起点和终点标记组成；并包括所有 CUDA API 调用和从任何 CPU 线程在这些标记之间启动的内核。

范围标记可以使用以下任一方法定义：

  • 分析器启动/停止 API
  • NVTX 系列

有关完整的详细信息，请参阅 Nsight Compute 的内核评测指南 中的“重播”部分。

This is a flowchart diagram of how the Range Replay feature Nsight Compute captures a range of CUDA API calls and collects performance information to display for the profiled application.This is a flowchart diagram of how the Range Replay feature Nsight Compute captures a range of CUDA API calls and collects performance information to display for the profiled application.图 1 。范围回放可视化：捕获范围后，每个过程都会收集整个范围的性能信息。

记忆分析

在 A100 上评测时，内存分析部分中的一个新二级缓存收回策略表可以帮助您了解各种 缓存逐出策略 的访问次数和达到的命中率。在同一部分中，二级缓存表现在有一个新的 ECC 行，用于显示通过在 GPU 上启用硬件纠错代码而创建的流量。

This is a screenshot of Nsight Compute showing tables with ECC and L2 cache eviction policy information using the Memory Workload Analysis feature. This is a screenshot of Nsight Compute showing tables with ECC and L2 cache eviction policy information using the Memory Workload Analysis feature. 图 2 。内存工作负载分析表的改进： ECC 和二级缓存逐出策略信息。

引导分析

Nsight Compute 现在通过在打开报表时在摘要和详细信息页面之间动态选择，可以更轻松地在多结果集合中选择初始分析目标。规则被扩展以检测非融合浮点指令作为优化机会。最后，但并非最不重要的一点是，当触发未恢复的内存访问规则时，它们会显示一个包含五个最有价值实例的表，从而更容易在源页面上检查和解决它们。

This figure is a screen capture Nsight Compute showing a summary page of multiresult reports, with the ability to sort and optimize the order of presentation.This figure is a screen capture Nsight Compute showing a summary page of multiresult reports, with the ability to sort and optimize the order of presentation.图 3 。打开多结果报告现在会显示摘要页面，允许您对结果进行排序并决定优化顺序。

This is a screen capture of Nsight Compute displaying how the two Uncoalesced Memory Access rules are better presented in a concise and sorted format.This is a screen capture of Nsight Compute displaying how the two Uncoalesced Memory Access rules are better presented in a concise and sorted format.图 4 。这两种未恢复的内存访问规则都以更简洁、更有序的格式呈现结果。

其他改进

进一步的改进包括 Occupancy Calculator 自动更新。源页面中 Register Dependency 列还有一个新的“执行的线程指令”度量和注册名工具提示，以及 NVLink 更新。

在十一月的 GTC ，我们发布了展示 NVIEW 工具能力的有洞察力的资产：

资源

阅读原文

...全文
2152 回复 打赏 收藏 转发到动态 举报
写回复
用AI写文章
回复
切换为时间正序
请发表友善的回复…
发表回复
NSight Compute 用户手册（上）
本文是NSight Compute用户手册上部分内容。介绍了从NSight Compute启动目标应用程序的方法，包括连接对话框操作、启动选项等。还说明了浏览报表、区分多个结果、执行规则的操作。此外，详细阐述了连接对话框使用，可启动并附加到本地和远程平台应用程序，以及相关配置。
Nsight Compute Profilier 分析
本文围绕Nsight Compute Profiler报告展开分析。介绍了报告的页眉、过滤器、基线等操作按钮功能，以及报告各页面情况，如会话页含基本信息和设备属性，摘要页提供结果列表和重要度量，详细信息页是度量数据主页面，还提及规则结果、屋顶线图、内存图表等内容。
NSight Compute 用户手册（中）
本文介绍了NVIDIA Nsight Compute的密码和私钥身份验证方法，包括所需输入的信息。还阐述了远程连接时应用程序可执行文件浏览器的功能，以及在远程设备上启动“活动”的步骤。此外，详细说明了交互式和非交互式概要文件活动、配置文件活动的特点，以及输出文件、目标流程等相关选项。
dcom交互式用户灰色_NSight Compute 用户手册（中）
NVIDIA NSight Compute支持通过密码或私钥进行身份验证的远程连接。用户需要提供IP/主机名、用户名、密码或私钥信息。配置后，工具会在目标设备上部署并执行分析。对于交互式和非交互式概要文件活动，提供了详细的控制选项，如禁用分析启动/停止、缓存和时钟控制。Profile活动则允许预配置的分析，应用程序执行后生成报告。连接信息和活动设置会被保存并应用于后续会话。
如何快速上手NVIDIA CUDA Samples：新手避坑完整指南
本文提供了一份完整的NVIDIA CUDA Samples上手指南，涵盖环境配置、编译错误排查、运行时调试与实战学习路径。通过验证CUDA环境、解决CMake配置问题、使用cuda-gdb和Nsight系列工具调试，帮助新手快速掌握GPU编程核心技能，顺利实现从入门到精通的过渡。
NVIDIA 企业开发者社区

1,404

社区成员

1,429

社区内容

发帖
与我相关
我的任务
社区描述
NVIDIA 开发者技术交流
人工智能 企业社区
社区管理员
  • nvdev
  • 活动通知
  • AI_CUDA_Training
加入社区
  • 近7日
  • 近30日
  • 至今

加载中

查看更多榜单

试试用AI创作助手写篇文章吧

+ 用AI写文章