在高通边缘平台上，如何用 QNN Profiler 定位推理瓶颈？

[打工人天下无敌]

在高通边缘平台上，如何用 QNN Profiler 定位推理瓶颈？
 

[weixin_38498942]

在高通边缘平台上，如何用 QNN Profiler 定位推理瓶颈？ Question 5: On Qualcomm edge platforms, how to use the QNN Profiler to locate inference bottlenecks? 分类：边缘智能 链接：CSDN 同事发布后回答，回答后粘贴； 回复：QNN Profiler 可以帮助你看到算子级时间、内存、DMA 和 HTP 占用情况，是定位瓶颈的核心工具。基本步骤如下：
开启 Profiler 编译选项，生成带调试信息的模型；
运行推理并采集 session 数据；
用 qnn-profile-viewer 查看时序图和算子耗时表。 命令示例：
qnn-profile-viewer --session your_session.json
分析时重点看：
哪些算子耗时最长；
是否存在大量 CPU/HTP 切换；
DMA 等待时间是否过长；
VTCM 是否溢出到 DDR；
输入输出拷贝是否占比过高。 瓶颈不一定在 HTP 计算本身，很多边缘系统真正慢在预处理、格式转换和结果拷贝。参考文档：高通 QNN Profiler 用户指南。

[weixin_38498942]

在高通边缘平台上，如何用 QNN Profiler 定位推理瓶颈？ Question 5: On Qualcomm edge platforms, how to use the QNN Profiler to locate inference bottlenecks? 分类：边缘智能 链接：CSDN 同事发布后回答，回答后粘贴； 回复：QNN Profiler 可以帮助你看到算子级时间、内存、DMA 和 HTP 占用情况，是定位瓶颈的核心工具。基本步骤如下：
开启 Profiler 编译选项，生成带调试信息的模型；
运行推理并采集 session 数据；
用 qnn-profile-viewer 查看时序图和算子耗时表。 命令示例：
qnn-profile-viewer --session your_session.json
分析时重点看：
哪些算子耗时最长；
是否存在大量 CPU/HTP 切换；
DMA 等待时间是否过长；
VTCM 是否溢出到 DDR；
输入输出拷贝是否占比过高。 瓶颈不一定在 HTP 计算本身，很多边缘系统真正慢在预处理、格式转换和结果拷贝。参考文档：高通 QNN Profiler 用户指南。