使用 QNN SDK 把 ONNX 模型编译到高通 HTP 后端时，模型量化校准数据不足会出现什么现象，该如何处理？

[爱老虎油不如爱loveyou]

使用 QNN SDK 把 ONNX 模型编译到高通 HTP 后端时，模型量化校准数据不足会出现什么现象，该如何处理？
 

[weixin_38498942]

校准数据不足最典型表现是量化后模型精度大幅下跌、推理出现异常输出，部分算子会自动降级到 CPU 执行，端侧推理延迟升高。校准数据集需要覆盖真实业务场景的数据分布，样本数量建议至少 100~1000 张，不能只用随机噪声图片。 基础转换 + 量化校准命令示例：
qnn-onnx-converter
--input_network=model.onnx
--output_path=model.cpp
--quantization_overrides=quant_config.json
--calibration_data=calib_data_list.txt
calib_data_list.txt 存放校准样本路径。调试时可以开启 QNN 日志，查看哪些算子无法量化、回退到 CPU。参考官方文档：https://docs.qualcomm.com/bundle/publicresource/80-63442-10/topics/model_conversion.html