使用高通平台部署 YOLO 检测模型时，常见的性能优化手段有哪些？

[侵略阿尔法星球]

使用高通平台部署 YOLO 检测模型时，常见的性能优化手段有哪些？
 

[老杨261]

在高通平台部署 YOLO 检测模型时，常见优化手段包括：固定输入尺寸、关闭动态 Shape、导出适合端侧推理的模型格式、使用 FP16 或 INT8 量化、将后处理 NMS 移至 CPU 执行，以及通过 QNN/SNPE 工具链进行模型转换。

例如，导出模型时可以避免动态维度：

python

运行

torch.onnx.export(
  model,
  sample_input,"yolov8_static.onnx",
  opset_version=17,
  input_names=["images"],
  output_names=["output"],
  dynamic_axes=None)

这样可以减少模型转换时的算子不确定性，提高端侧部署成功率。