我们使用Windows下使用QNN进行推理的时,如果选择在NPU上加载和运行量化版的dlc模型文件,对本地图片进行推理时,发现推理结果经过后处理后,目标的框位置是正确的,但是其对应的置信度,它们的值都

挑灯夜读凿壁偷光 2025-01-24 10:49:40

我们使用Windows下使用QNN进行推理的时,如果选择在NPU上加载和运行量化版的dlc模型文件,对本地图片进行推理时,发现推理结果经过后处理后,目标的框位置是正确的,但是其对应的置信度,它们的值都为0或趋于0,并因此滤掉了所有检测出来的目标,请问这是怎么回事?

...全文
295 1 打赏 收藏 转发到动态 举报
写回复
用AI写文章
1 条回复
切换为时间正序
请发表友善的回复…
发表回复
  • 打赏
  • 举报
回复

经过调试分析发现模型中最后一个激活层(Sigmoid)的输出是正确,但是最后一个链接层(Contact)的输出则是不正确的——置信度的值都为0或趋于0,如下图所示:

img

有两种法可以用来处理这个问题:
1)简单起见,加载构建原量化版yolov5l模型时,屏蔽其原输出层(output0),并添加最后一个激活层作为输出,并在后处理中对推理结果其进行额外的处理(Split、Mul、Add等);
2)编写python脚本或使用相关工具对onnx模型进行修改——删除Split及其后续节点,并添加三个输出节点分别与最后一个激活层Sigmod节点的输出相连接,后处理方式通前一种方式。

1,488

社区成员

发帖
与我相关
我的任务
社区描述
本论坛以AI、WoS 、XR、IoT、Auto、生成式AI等核心板块组成,为开发者提供便捷及高效的学习和交流平台。 高通开发者专区主页:https://qualcomm.csdn.net/
人工智能物联网机器学习 技术论坛(原bbs) 北京·东城区
社区管理员
  • csdnsqst0050
  • chipseeker
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧