QNN运行时, 量化之后没有办法得到正确的数据, 源模型是可以运行的, 可能存在哪些问题?

呵呵呵呵呵喝 2024-07-08 10:00:10

QNN运行时, 量化之后没有办法得到正确的数据, 源模型是可以运行的, 可能存在哪些问题?

...全文

1201 2 打赏收藏转发到动态举报

写回复

2 条回复

切换为时间正序

请发表友善的回复…

发表回复

weixin_38498942 2024-07-08

打赏
举报

回复

在QNN这个推理框架下, 我们在量化的时候, 无论这些模型的输入本身是否带上了归一化这个操作, 我们必须都在量化的前处理上加上归一化的操作, 这样我们才能正常的量化模型, 再进行推理的时候才能正常的使用.

wenhyan 2024-11-10

举报

回复

@weixin_38498942 你好，这里的意思是在量化模型时，输入的矫正数据需要做归一化吗

算法部署_在赛灵思PYNQ上对深度学习神经网络算法进行量化加速QNN_附项目源码_优质项目实战

神经网络的定量训练-QNN

量子神经网络技术在船舶电力系统中的应用.pdf

得到so 模型文件，这两个目录下的so 都是可以直接运行的qnn 模型文件，android 目录下的是可以直接在android 系统运行的，linux 下的是在linux 平台运行的，并且在转bin 文件的时候，在linux 平台使用这个linux 目录下的so 转出来的bin, 可以在android 设备htp等后端运行，这点注意。.json 文件：这个json 文件也是描述了qnn的模型结构文件，只是用来辅助描述模型结构文件的，这个文件后续的步骤中不会再使用到。

前面讲了如何配置qnn sdk的环境，这一篇总结下qnn 实际转换一个onnx 模型，并运行的实现步骤。设备：1. ubuntu22.04 的Linux 服务器。2. 一台android手机。

高通开发者论坛

2,851

社区成员

5,758

社区内容

发帖

与我相关

我的任务

人工智能物联网机器学习技术论坛（原bbs）北京·东城区

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章