NVIDIA 技术博客：使用最新的 Nsight Compute 进行高级内核评测

nvdev 2022-10-21 10:53:40

这篇文章最初发表在 NVIDIA 技术博客上。有关此类的更多内容，请参阅最新的 概括 新闻和教程。

NVIDIA Nsight Compute 是用于 CUDA 应用程序的交互式内核分析器。它通过用户界面和命令行工具提供详细的性能指标和 API 调试。 Nsight Compute 2022.1 更新了数据收集模式，为性能分析提供了新的用例和选项。

立即下载>>

有什么新鲜事吗

距离重播

Nsight Compute 的这一版本扩展了现有的重播模式，提供了范围重播的高要求功能。 Range Replay 捕获并重放分析应用程序中 CUDA API 调用和内核启动的完整范围。度量与整个范围相关联，而不是单个内核。这允许该工具在不序列化的情况下执行内核，并支持出于正确性或性能原因而需要并发运行的评测内核。范围由起点和终点标记组成；并包括所有 CUDA API 调用和从任何 CPU 线程在这些标记之间启动的内核。

范围标记可以使用以下任一方法定义：

  • 分析器启动/停止 API
  • NVTX 系列

有关完整的详细信息，请参阅 Nsight Compute 的内核评测指南 中的“重播”部分。

This is a flowchart diagram of how the Range Replay feature Nsight Compute captures a range of CUDA API calls and collects performance information to display for the profiled application.This is a flowchart diagram of how the Range Replay feature Nsight Compute captures a range of CUDA API calls and collects performance information to display for the profiled application.图 1 。范围回放可视化：捕获范围后，每个过程都会收集整个范围的性能信息。

记忆分析

在 A100 上评测时，内存分析部分中的一个新二级缓存收回策略表可以帮助您了解各种 缓存逐出策略 的访问次数和达到的命中率。在同一部分中，二级缓存表现在有一个新的 ECC 行，用于显示通过在 GPU 上启用硬件纠错代码而创建的流量。

This is a screenshot of Nsight Compute showing tables with ECC and L2 cache eviction policy information using the Memory Workload Analysis feature. This is a screenshot of Nsight Compute showing tables with ECC and L2 cache eviction policy information using the Memory Workload Analysis feature. 图 2 。内存工作负载分析表的改进： ECC 和二级缓存逐出策略信息。

引导分析

Nsight Compute 现在通过在打开报表时在摘要和详细信息页面之间动态选择，可以更轻松地在多结果集合中选择初始分析目标。规则被扩展以检测非融合浮点指令作为优化机会。最后，但并非最不重要的一点是，当触发未恢复的内存访问规则时，它们会显示一个包含五个最有价值实例的表，从而更容易在源页面上检查和解决它们。

This figure is a screen capture Nsight Compute showing a summary page of multiresult reports, with the ability to sort and optimize the order of presentation.This figure is a screen capture Nsight Compute showing a summary page of multiresult reports, with the ability to sort and optimize the order of presentation.图 3 。打开多结果报告现在会显示摘要页面，允许您对结果进行排序并决定优化顺序。

This is a screen capture of Nsight Compute displaying how the two Uncoalesced Memory Access rules are better presented in a concise and sorted format.This is a screen capture of Nsight Compute displaying how the two Uncoalesced Memory Access rules are better presented in a concise and sorted format.图 4 。这两种未恢复的内存访问规则都以更简洁、更有序的格式呈现结果。

其他改进

进一步的改进包括 Occupancy Calculator 自动更新。源页面中 Register Dependency 列还有一个新的“执行的线程指令”度量和注册名工具提示，以及 NVLink 更新。

在十一月的 GTC ，我们发布了展示 NVIEW 工具能力的有洞察力的资产：

资源

阅读原文

...全文
2168 回复 打赏 收藏 转发到动态 举报
写回复
用AI写文章
回复
切换为时间正序
请发表友善的回复…
发表回复
Code Llama 70B代码生成能力深度解析：开源模型如何逼近GPT-4
代码大模型正从通用智能走向专业纵深，Code Llama 70B作为当前开源代码生成的标杆，其能力本质源于长上下文建模、代码专属Tokenizer、RLHF对齐与量化推理优化四大技术支柱。它并非简单放大参数，而是在64K上下文窗口下实现跨文件引用召回率94.7%、单元测试边界覆盖率达89%等可测指标，显著提升编译通过率与调试建议有效性。相比GPT-4，它在API集成、SQL优化、错误诊断等垂直场景已实现局部反超，但在多文件架构设计和跨技术栈胶水代码上仍存差距。本文聚焦工程落地视角，解析其性能逼近临界点的技术
GLM-5.1长程任务能力解析：8小时持续工作的工程化AI
长程任务处理是大模型从‘对话工具’迈向‘工程协作者’的关键跃迁。其核心不在于上下文长度，而在于状态持久化、认知导航与环境感知的协同——即如何在多步骤、强依赖、需验证的真实软件生命周期中保持目标一致性。GLM-5.1通过显式/隐式/环境三层状态管理，结合硅基流动平台的动态计算图卸载与分段KV Cache等硬件-软件协同优化，首次实现稳定8小时无人干预的端到端交付。该能力直接支撑Linux系统构建、向量数据库深度调优、CUDA算子重写等典型工程场景，显著降低重复性开发成本。对技术负责人、独立开发者及AI系统研究
实用代码脚本易语言源码图片组操作类
实用代码脚本易语言源码图片组操作类
升级版本基于多目标粒子群算法的微电网优化调度【风光、储能、柴油、燃气、电网交互】（Matlab代码实现）
内容概要：本文介绍了一种基于多目标粒子群算法（MOPSO）的微电网优化调度模型，综合考虑风能、光伏、储能系统、柴油发电机、燃气轮机以及与主电网之间的能量交互等多种分布式能源的协同运行。通过构建以运行成本最小化、碳排放最低化和系统可靠性最优化为目标的多目标优化模型，利用Matlab平台实现MOPSO算法求解，完成对微电网在不同运行场景下的能量管理与调度方案优化。该模型能够有效平衡经济性与环保性之间的关系，适用于含多类型分布式电源的复杂微电网系统，具有较强的工程应用价值和科研参考意义； 适合人群：具备一定电力系统基础知识和Matlab编程能力的研究生、科研人员及工程技术人员，尤其适合从事微电网、智能电网、综合能源系统、可再生能源集成与优化调度等领域研究的专业人士； 使用场景及目标：①用于多能源耦合微电网系统的协同优化调度研究；②支持多目标智能优化算法在能源系统中的建模与求解实践，帮助用户掌握MOPSO在实际工程问题中的应用方法；③为学术论文复现、毕业设计、科研项目开发提供完整的代码实例与技术支撑； 阅读建议：建议读者结合Matlab代码与理论文档，深入理解目标函数构建、约束条件处理及Pareto最优解集生成机制，重点关注算法参数设置、多目标权衡分析与结果可视化，并可通过调整能源配置或引入新约束进行二次开发与创新研究。
东北大学 人文选修 文物精品与中华文明 知识点整理（选择+填空）
东北大学 人文选修 文物精品与中华文明 知识点整理（选择+填空）
NVIDIA 企业开发者社区

1,413

社区成员

1,430

社区内容

发帖
与我相关
我的任务
社区描述
NVIDIA 开发者技术交流
人工智能 企业社区
社区管理员
  • nvdev
  • 活动通知
  • AI_CUDA_Training
加入社区
  • 近7日
  • 近30日
  • 至今

加载中

查看更多榜单

试试用AI创作助手写篇文章吧

+ 用AI写文章