在8550LE上如何运行snpe-net-run --use_aip, 使用AIP进行推理?

weixin_32298029 2024-07-05 11:16:37

在8550LE上如何运行snpe-net-run --use_aip, 使用AIP进行推理?

...全文

1252 1 打赏收藏转发到动态举报

写回复

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

weixin_38498942 2024-07-08

打赏
举报

回复

我们可以从图中看出,8Gen2上, 并不支持AIP这个runtime, 统一改为了DSP的runtime, 所以我们字啊8550 上只能使用DSP无法使用AIP.

snpe-1.50.0.zip

高通snpe安装包直接下载即可安装

snpe-sdk-liunx-all.qik

Snapdragon Neural Processing Engine (SNPE) 是 Qualcomm 提供的一套完整的解决方案，旨在优化和加速神经网络模型在 Qualcomm 骁龙（Snapdragon）移动平台上的运行。SNPE 支持多种神经网络框架，如 TensorFlow、Caffe、ONNX 等，并提供了高效的推理引擎和工具链，帮助开发者在移动设备上实现高性能的人工智能应用。 Snapdragon Neural Processing Engine (SNPE) 是由高通公司（Qualcomm）开发的一套软件开发工具包，其目的在于为开发者提供一系列优化和加速神经网络模型在高通骁龙移动平台上的运行能力。随着人工智能技术在移动设备上的普及和重要性的日益增加，SNPE成为了推动移动AI应用发展的关键工具。 SNPE支持多种流行的深度学习框架，包括但不限于TensorFlow、Caffe以及ONNX（开放神经网络交换格式），这使得开发者能够利用他们已有的模型和知识，将这些模型转换并部署在骁龙处理器上。这样的支持为开发者提供极大的便利，因为它们不必从零开始构建模型，而是可以在现有的成果基础上进行优化和调整。 SNPE的核心组件之一是其高效的推理引擎，推理引擎是深度学习模型执行前向传播计算的部分，它负责处理输入数据并生成预测结果。在移动设备上运行复杂的神经网络模型时，高效的推理引擎是至关重要的，因为它能够确保应用运行流畅且电池消耗合理。此外，SNPE还提供了一系列工具链，这些工具链包括模型转换工具、调试工具和性能分析工具，它们帮助开发者在模型转换、调试和优化等阶段中更有效地工作。例如，模型转换工具可以将特定框架的模型转换为SNPE可以识别和运行的格式，而性能分析工具则允许开发者了解模型在特定硬件上的运行效率，进而作出相应的调整。

‌SNPE（Snapdragon Neural Processing Engine）是高通公司推出的一款面向移动端和物联网设备的深度学习推理框架‌。它提供了一套完整的深度学习推理解决方案，能够支持多种深度学习模型，包括PyTorch、TFLite、ONNX和TensorFlow等‌

高通开发者论坛

3,299

社区成员

5,796

社区内容

发帖

与我相关

我的任务

人工智能物联网机器学习技术论坛（原bbs）北京·东城区

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章