哪一版本的QNN能够支持for循环或loop算子?

mmmeee77 2026-03-28 16:04:42

最近在做高通NPU量化转换时,由于模型内存在for循环结构,如果让onnx将其转换成Loop算子,进一步转换成ir_graph的适合就会报错“No translation registered for op type onnx_loop”。

已尝试2.31和2.44的QNN,报错信息相同。

如果不用loop算子、for循环会被完整展开,导致onnx节点过多,无法进行后续量化等操作。

想请问一下各位,有支持loop的QNN吗?如果需要自己定义的话,能否顺利进行后续量化、编译、端侧推理等流程呢?

 

...全文
94 1 打赏 收藏 转发到动态 举报
写回复
用AI写文章
1 条回复
切换为时间正序
请发表友善的回复…
发表回复
weixin_38498942 04-02 17:35
  • 打赏
  • 举报
回复

目前公开版 QNN(含你用的 2.31/2.44)不原生支持onnx_loop/for 循环算子,根本原因是高通 NPU 为静态数据流架构,不支持动态控制流。
核心解决路径
模型侧改造:
尽量用固定次数循环,提前在模型中展开(避免生成 ONNX Loop 算子);
改用 NPU 友好的实现,比如用Unroll或用Tile/Reshape替代动态循环。
自定义算子适配:
可通过 QNN 的 Op API 自定义Loop算子,但后续量化、编译、端侧推理需自行适配,且性能 / 兼容性风险高。

重要提示】本资源设置为0积分下载,若非0积分请勿轻易下载 亲爱的CSDN用户: 首先感谢你点进这个资源页面。我需要提前说明一个重要情况: 本资源原本已设置为“0积分下载”,即作者希望完全免费共享。但CSDN平台有时会根据文件的下载热度、文件大小、用户权限等因素,自动将部分资源的积分调整为非0数值(如1积分、2积分、5积分等)。这是平台系统的自动行为,而非作者本人的设定。 因此,如果你当前看到该资源的下载所需积分不是0(例如显示为1、2、3……),请谨慎决定是否下载。 如果你按照非0积分支付并下载后发现资源内容不符合预期、链接失效,或者实际上该资源本应是免费的,作者无法为此承担积分损失或退还操作。强烈建议:仅在页面显示为0积分时进行下载。 另外,本资源描述中并未直接提供具体的下载地址或外部链接,因为它本身是一个通过CSDN官方上传通道提交的文件/内容包。如果你看到描述中没有外部网盘地址,这是正常的——资源文件应通过CSDN内置的“下载”按钮获取。若因平台积分显示异常导致你支付了积分,请优先联系CSDN客服咨询积分退还政策,作者没有权限修改平台自动设定的积分值。 感谢你的理解与支持。技术分享本应开放,但受限于平台规则,特此提醒如上。祝学习进步!

7,642

社区成员

发帖
与我相关
我的任务
社区描述
本论坛以AI、WoS 、XR、IoT、Auto、生成式AI等核心板块组成,为开发者提供便捷及高效的学习和交流平台。 高通开发者专区主页:https://qualcomm.csdn.net/
人工智能物联网机器学习 技术论坛(原bbs) 北京·东城区
社区管理员
  • csdnsqst0050
  • chipseeker
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧