SNPE 量化模型在安卓设备dsp上运行失败了: SNPE版本:2.16 量化模型在安卓上运行时有如下报错:

小黄花菜 2024-07-19 15:16:36

SNPE 量化模型在安卓设备dsp上运行失败了:
SNPE版本:2.16
量化模型在安卓上运行时有如下报错:

 

详细说明:该模型为多输入模型,指定设备为--use_dsp时失败,指定设备为--use_gpu上时可成功运行,如何定位解决该模型在dsp上运行失败的问题

...全文
1267 2 打赏 收藏 转发到动态 举报
AI 作业
写回复
用AI写文章
2 条回复
切换为时间正序
请发表友善的回复…
发表回复
weixin_38498942 2024-07-24
  • 打赏
  • 举报
回复

onnx转dlc:
snpe-onnx-to-dlc -i model.onnx -o model.dlc
量化命令:
snpe-dlc-quantize --input_dlc=model.dlc --input_list=/quantized_data/raw_list.txt --output_dlc=model.int8.dlc
注意:
raw_list.txt和需要的bin文件已经在上面的压缩包中一起发你了(raw_list.txt中的图像顺序不能修改),模型路径根据具体情况更改.

注意: DSP是进行了量化, 所以需要确认每一层的数据范围, 如果你的数据范围超过了INT8, 就会有精度的损失, 如果超过了int32 在运行的时候就会报出来的错误, 需要在训练的时候, 请增加一些BN层,以抑制数据的范围。

Mr_ReIandSan 2024-08-29
  • 举报
回复
@weixin_38498942 这不是答非所问吗?

3,302

社区成员

发帖
与我相关
我的任务
社区描述
本论坛以AI、WoS 、XR、IoT、Auto、生成式AI等核心板块组成,为开发者提供便捷及高效的学习和交流平台。 高通开发者专区主页:https://qualcomm.csdn.net/
人工智能物联网机器学习 技术论坛(原bbs) 北京·东城区
社区管理员
  • csdnsqst0050
  • chipseeker
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧