我导出了一个yolov8s的原版模型,转成dlc后使用8550的dps运行,用的snpe2.13,我发现模型输出的xywh的值至少还都是有效值,但是输出的confidence全是0,问题可能出在那里呢

请叫我攻城狮hh 2024-05-09 10:05:56

我导出了一个yolov8s的原版模型,转成dlc后使用8550的dps运行,用的snpe2.13,我发现模型输出的xywh的值至少还都是有效值,但是输出的confidence全是0,问题可能出在那里呢?

...全文
691 2 打赏 收藏 转发到动态 举报
写回复
用AI写文章
2 条回复
切换为时间正序
请发表友善的回复…
发表回复
  • 打赏
  • 举报
回复

现在本地X86测试,可能你的编码输入有问题

  • 打赏
  • 举报
回复

问题大概率出在量化上。如果您用的output0作为量化输出的话,可以很清楚的看到,这个节点对量化很不友好:左边Mul分支的值分布在0到640之间,而右边Sigmoid分支的值分布在0到1之间,分布差距巨大的两个分支concat到一起,很难用int8的255个值表示,因此右分支的值都是0是因为int8对数值表示的颗粒度不够,所有小于某个值的数都被归到0了。您可以尝试使用onnx编辑工具,把concat节点删除,同时在Mul节点和Sigmoid节点下面各自加一个输出,让分布不同的两套值使用不同的量化参数,这样可以缓解这个现象。

1,097

社区成员

发帖
与我相关
我的任务
社区描述
本论坛以AI、WoS 、XR、IoT、Auto、生成式AI等核心板块组成,为开发者提供便捷及高效的学习和交流平台。 高通开发者专区主页:https://qualcomm.csdn.net/
人工智能物联网机器学习 技术论坛(原bbs) 北京·东城区
社区管理员
  • csdnsqst0050
  • chipseeker
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧