关于QNN量化的疑问

wenhyan 2024-11-11 10:15:27

在使用qnn-onnx-converter进行量化操作时,input_list.txt中的raw文件,是否与模型推理时的输入一致的呢?

layout是NCHW还是NHWC?是否需要进行归一化操作?模型量化后,精度与f32的模型相差很大,找不到具体的原因在哪里

...全文
884 2 打赏 收藏 转发到动态 举报
AI 作业
写回复
用AI写文章
2 条回复
切换为时间正序
请发表友善的回复…
发表回复
weixin_138 03-13
  • 打赏
  • 举报
回复

qnn-onnx-converter默认输入是fp32,默认会帮你做nchw->nhwc

weixin_38498942 2024-11-22
  • 打赏
  • 举报
回复

input_list.txt中的raw文件, 他的排列(NCHW/NHWC) 是需要和原始模型是一致的, 另外如果原模型推理的时候需要进行归一化, 那么我们需要对raw文件先进行归一化.

可以找到具体哪一层的输出不一致, 找到量化和非量化模型输出的差异.

3,447

社区成员

发帖
与我相关
我的任务
社区描述
本论坛以AI、WoS 、XR、IoT、Auto、生成式AI等核心板块组成,为开发者提供便捷及高效的学习和交流平台。 高通开发者专区主页:https://qualcomm.csdn.net/
人工智能物联网机器学习 技术论坛(原bbs) 北京·东城区
社区管理员
  • csdnsqst0050
  • chipseeker
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧