7,646
社区成员
发帖
与我相关
我的任务
分享在 AI Edge Box 上部署深度学习模型时,高通推荐使用哪些工具链和模型格式?
在高通 AI Edge Box 上部署深度学习模型,通常推荐使用 *QNN SDK* 或 *SNPE* 工具链。常见模型格式包括 ONNX、TensorFlow Lite、PyTorch 导出模型等,部署前一般需要转换为高通平台可执行格式。
例如,开发者可以先将训练模型导出为 ONNX,再使用 QNN 工具进行转换和量化:
bash
运行
qnn-onnx-converter \--input_network model.onnx \--output_path model.dlc \--quantize \--backend htp
随后在边缘设备上加载推理上下文,并调用模型执行推理。