哪一版本的QNN能够支持for循环或loop算子?

mmmeee77 2026-03-28 16:04:42

最近在做高通NPU量化转换时,由于模型内存在for循环结构,如果让onnx将其转换成Loop算子,进一步转换成ir_graph的适合就会报错“No translation registered for op type onnx_loop”。

已尝试2.31和2.44的QNN,报错信息相同。

如果不用loop算子、for循环会被完整展开,导致onnx节点过多,无法进行后续量化等操作。

想请问一下各位,有支持loop的QNN吗?如果需要自己定义的话,能否顺利进行后续量化、编译、端侧推理等流程呢?

 

...全文
90 1 打赏 收藏 转发到动态 举报
写回复
用AI写文章
1 条回复
切换为时间正序
请发表友善的回复…
发表回复
weixin_38498942 04-02 17:35
  • 打赏
  • 举报
回复

目前公开版 QNN(含你用的 2.31/2.44)不原生支持onnx_loop/for 循环算子,根本原因是高通 NPU 为静态数据流架构,不支持动态控制流。
核心解决路径
模型侧改造:
尽量用固定次数循环,提前在模型中展开(避免生成 ONNX Loop 算子);
改用 NPU 友好的实现,比如用Unroll或用Tile/Reshape替代动态循环。
自定义算子适配:
可通过 QNN 的 Op API 自定义Loop算子,但后续量化、编译、端侧推理需自行适配,且性能 / 兼容性风险高。

7,639

社区成员

发帖
与我相关
我的任务
社区描述
本论坛以AI、WoS 、XR、IoT、Auto、生成式AI等核心板块组成,为开发者提供便捷及高效的学习和交流平台。 高通开发者专区主页:https://qualcomm.csdn.net/
人工智能物联网机器学习 技术论坛(原bbs) 北京·东城区
社区管理员
  • csdnsqst0050
  • chipseeker
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧