高通 QNN 推理时输入数据为浮点数组，传入模型后识别结果全部失真，该怎么处理？

996是大福报 2026-06-24 14:54:04

高通 QNN 推理时输入数据为浮点数组，传入模型后识别结果全部失真，该怎么处理？

...全文

25 1 打赏收藏转发到动态举报

写回复

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

weixin_38498942 06-25 19:22

打赏
举报

回复

核对训练时归一化均值、标准差参数，在设备端预处理流程保持完全一致；量化模型需将浮点输入映射到对应量化零点与缩放系数；关闭推理侧自动归一化冲突配置，统一输入数据值域，即可修复识别失真问题。

提供较低级别、高度可定制的统一API，通过单独的库加速所有AI加速器核心上的AI模型, 可以直接用于针对特定的加速器核心或从流行的运行时（包括Qualcomm Neural Processing SDK、TensorFlow Lite和ONNX运行时）委派工作负载。一个支持异构计算、系统级配置的一体化SDK，旨在将AI工作负载引导到我们平台上的所有加速器核心。为开发人员提供灵活性，包括核心间协作支持和其他高级功能。是一个为训练好的神经网络模型提供高级量化和压缩技术的库。

高通AI Engine使用教程

操作方法如下：https://docs.qualcomm.com/bundle/publicresource/topics/80-70014-15BY/compile-app-esdk.html。下载SNPE安装包：https://docs.qualcomm.com/bundle/publicresource/topics/80-70014-15BY/snpe-setup.html。注意：SNPE模型量化是从DLC模型转换，不像QNN是直接从ONNX转换，默认int8。说明环境变量设置好了。

模型链接:https://huggingface.co/OpenGVLab/InternVL2-2B论文官方简要说明 https://internvl.github.io/blog/2024-07-02-InternVL-2.0中文解读 https://zhuanlan.zhihu.com/p/702946079在线demo https://internvl.opengvlab.com/

本文提供了一份详尽的高通QNN SDK实战指南，手把手教你如何将PyTorch模型高效部署到Snapdragon设备。内容涵盖从环境搭建、模型转换、量化优化到多后端部署与性能评测的完整流程，旨在帮助移动AI开发者打通模型落地的“最后一公里”，充分发挥高通平台的硬件加速潜力。

高通开发者论坛

7,644

社区成员

6,338

社区内容

发帖

与我相关

我的任务

人工智能物联网机器学习技术论坛（原bbs）北京·东城区

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章