高通推出了 QNN ，后续是否还会继续更新 SNPE ？？

weixin_32302311 2023-02-15 13:34:47

高通推出了 QNN ，后续是否还会继续更新 SNPE ？？

...全文

1848 1 打赏收藏转发到动态举报

写回复

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

weixin_38498942 2023-02-16

打赏
举报

回复

短期内应该不会取消更新计划，会继续维护或者升级。

高性能计算(High performance computing，缩写HPC)指通常使用很多处理器（作为单个机器的一部分）或者某一集群中组织的几台计算机（作为单个计算资源操作）的计算系统和环境。有许多类型的HPC 系统，其范围从标准计算机的大型集群，到高度专用的硬件。大多数基于集群的HPC系统使用高性能网络互连，比如那些来自 InfiniBand 或 Myrinet 的网络互连。这个Model是指计算机上的一个应用，它占用了两类最主要的资源：算术逻辑单元的计算资源，存储器的带宽资源。

非量化模型文件使用网络参数的 32 位浮点表示。量化模型文件使用网络参数的定点表示，通常为 8 位权重和 8 或 32 位偏差。定点表示与 Tensorflow 量化模型中使用的相同。在量化模型或非量化模型之间进行选择CPU - 选择非量化模型。量化模型目前与 CPU 后端不兼容。DSP - 选择量化模型。在 DSP 后端运行时需要量化模型。GPU - 选择非量化模型。量化模型目前与 GPU 后端不兼容。HTP - 选择量化模型。在 HTP 后端运行时需要量化模型。

基于YOLOV5模型的目标检测DEMO是一个基于SNPE SDK/QNN SDK+QAI AppBuilder开发的、使用了NPU模块加速yolov5模型（yolov5l.pt）推理的、能够对本地图片文件和USB摄像头实时视频进行80分类目标检测的AI应用程序。其中使用SNPE SDK开发的DEMO使用是C++语言，使用QNN SDK/QAI AppBuilder开发的DEMO使用的是python语言。

对于 AI Engine Direct （QNN）中的量化 SDK 是来自训练数据集的 50 到 200 张图像的代表性数据集作为校准数据集提供给 QNN 转换器。QNN SDK 提供离线工具，用于在 Qualcomm 硬件上加速转换、量化、优化和部署模型。为设备上编译模型时执行，为此使用正确的交叉编译器工具链非常重要架构来确保编译后的共享对象（.so）与设备作系统。转换/量化步骤完成后，用于编译生成的 C++ graph 转换为共享对象（.so），使模型能够由应用程序执行推理。

该文件的名称与protobuf模型文件的名称相同。如果您从运行推理引擎诊断中传递了 image_list.txt 中的多个图像，您将收到多个输出/Result_x，选择与您用于框架诊断的输入相匹配的结果进行比较（即，在框架中您使用了 chair.raw 和 inference chair.raw 是 image_list.txt 中的第一项，然后选择 output/Result_0，如果 chair.raw 是 image_list.txt 中的第二项，则选择 output/Result_1)。

高通开发者论坛

2,851

社区成员

5,756

社区内容

发帖

与我相关

我的任务

人工智能物联网机器学习技术论坛（原bbs）北京·东城区

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章