QNN SDK提供python接口吗?如果想使用python语言在WoS平台上开发AI类应用,都有哪些途径呢?

富春山水图 2024-10-28 10:13:39

QNN SDK提供python接口吗?如果想使用python语言在WoS平台上开发AI类应用,都有哪些途径呢?

...全文
789 1 打赏 收藏 转发到动态 举报
AI 作业
写回复
用AI写文章
1 条回复
切换为时间正序
请发表友善的回复…
发表回复
weixin_38498942 2024-10-29
  • 打赏
  • 举报
回复

QNN SDK是Qualcomm推出的用于加速模型在Qualcomm平台上推理的runtime库。其中主要包括用于模型转换、模型量化、模型调测等相关的工具,以及用于部署模型、运行模型的C/C++接口库,以及使用C/C++接口开发的示例应用(SampleApp),该示例应用类似与qnn-net-run.exe工具,可以用来跑模型。
2.26版的QNN SDK也提供了python接口,但是这块目前缺少相关的介绍文档以及参考示例,有待官方进一步完善。如果想使用python语言在WoS平台上开发AI类应用,有两个相对比较成熟的途径:
一是使用集成有QNNExecutionProvider的微软开发的onnxruntime库,AI类应用可以使用onnxruntime提供的python接口进行开发;
二是Qualcomm开源的、也是这里要重点推荐的AI Engine Direct Helper(也称QAI AppBuilder/QNN Helper等,https://github.com/quic/ai-engine-direct-helper)%EF%BC%8C%E5%AE%83%E6%98%AF%E5%9C%A8QNN SDK的基础上进行封装的、无需理解QNN SDK底层接口就能上手使用的、仅需要派生一个python类并实现模型推理的前处理和后处理就能把绝大多数模型跑起来并使用NPU进行加速的python模块。官网有详细的使用说明,并提供有一个完整的demo供参考。

2,851

社区成员

发帖
与我相关
我的任务
社区描述
本论坛以AI、WoS 、XR、IoT、Auto、生成式AI等核心板块组成,为开发者提供便捷及高效的学习和交流平台。 高通开发者专区主页:https://qualcomm.csdn.net/
人工智能物联网机器学习 技术论坛(原bbs) 北京·东城区
社区管理员
  • csdnsqst0050
  • chipseeker
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧