Qualcomm 4290 用哪个版本的snpe

自由丶如风 2023-06-13 09:43:58

1. Qualcomm 4290 用哪个版本的snpe？

2. 除了官方提供的 UDO，如果我想将自定义算子再dsp上运行，还有哪些方式？开发难度如何？

感谢官方大佬的回复~

...全文

1677 1 打赏收藏转发到动态举报

写回复

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

自由丶如风 2023-06-13

精选

打赏
举报

回复

我是用 snpe-1.65.0.3676 版本的SDK去测试，结果如下，4290不支持使用SNPE吗？

bengal:/data/local/tmp/arm64/dsp/lib # snpe-platform-validator --runtime dsp
PF_VALIDATOR: DEBUG: Calling PlatformValidator->setRuntime
PF_VALIDATOR: DEBUG: Calling PlatformValidator->RuntimeCheck
PF_VALIDATOR: DEBUG: Testing for the support of DSP runtime.
PF_VALIDATOR: DEBUG: CPU side validation passed.

PF_VALIDATOR: DEBUG: starting calculator test
PF_VALIDATOR: DEBUG: Loading DSP stub: libcalculator.so
PF_VALIDATOR: DEBUG: Successfully loaded DSP library - 'libcalculator.so'. Setting up pointers.
PF_VALIDATOR: DEBUG: Success in executing the sum function
Unit Test on the runtime DSP: Failed.
SNPE is NOT supported for runtime DSP on the device.
PF_VALIDATOR: DEBUG: Calling PlatformValidator->IsRuntimeAvailable
PF_VALIDATOR: DEBUG: CPU side validation passed.

PF_VALIDATOR: DEBUG: starting calculator test
PF_VALIDATOR: DEBUG: Loading DSP stub: libcalculator.so
PF_VALIDATOR: DEBUG: Successfully loaded DSP library - 'libcalculator.so'. Setting up pointers.
PF_VALIDATOR: DEBUG: Success in executing the sum function
Runtime DSP Prerequisites: Present.

snpe-1.50.0.zip

Snapdragon Neural Processing Engine (SNPE) 是 Qualcomm 提供的一套完整的解决方案，旨在优化和加速神经网络模型在 Qualcomm 骁龙（Snapdragon）移动平台上的运行。SNPE 支持多种神经网络框架，如 TensorFlow、Caffe、ONNX 等，并提供了高效的推理引擎和工具链，帮助开发者在移动设备上实现高性能的人工智能应用。 Snapdragon Neural Processing Engine (SNPE) 是由高通公司（Qualcomm）开发的一套软件开发工具包，其目的在于为开发者提供一系列优化和加速神经网络模型在高通骁龙移动平台上的运行能力。随着人工智能技术在移动设备上的普及和重要性的日益增加，SNPE成为了推动移动AI应用发展的关键工具。 SNPE支持多种流行的深度学习框架，包括但不限于TensorFlow、Caffe以及ONNX（开放神经网络交换格式），这使得开发者能够利用他们已有的模型和知识，将这些模型转换并部署在骁龙处理器上。这样的支持为开发者提供极大的便利，因为它们不必从零开始构建模型，而是可以在现有的成果基础上进行优化和调整。 SNPE的核心组件之一是其高效的推理引擎，推理引擎是深度学习模型执行前向传播计算的部分，它负责处理输入数据并生成预测结果。在移动设备上运行复杂的神经网络模型时，高效的推理引擎是至关重要的，因为它能够确保应用运行流畅且电池消耗合理。此外，SNPE还提供了一系列工具链，这些工具链包括模型转换工具、调试工具和性能分析工具，它们帮助开发者在模型转换、调试和优化等阶段中更有效地工作。例如，模型转换工具可以将特定框架的模型转换为SNPE可以识别和运行的格式，而性能分析工具则允许开发者了解模型在特定硬件上的运行效率，进而作出相应的调整。

Qualcomm Neural Processing SDK 是高通（Qualcomm）推出的一款软件开发工具包（SDK），旨在帮助开发者在搭载高通骁龙（Snapdragon）处理器的设备上高效运行人工智能（AI）和机器学习（ML）模型。该 SDK 充分利用了骁龙芯片中的异构计算能力，包括 CPU、GPU 和专用的神经处理单元（NPU，也称为 AI 引擎），以实现高性能、低功耗的 AI 推理。 1. 支持多种 AI 框架 2. 异构计算支持 3. 模型优化 4. 跨平台支持 5. 低功耗设计

Snapdragon Neural Processing Engine (SNPE) 是 Qualcomm 提供的一套完整的解决方案，旨在优化和加速神经网络模型在 Qualcomm 骁龙（Snapdragon）移动平台上的运行。SNPE 支持多种神经网络框架，如 TensorFlow、Caffe、ONNX 等，并提供了高效的推理引擎和工具链，帮助开发者在移动设备上实现高性能的人工智能应用。

支持的计算平台： ```bash - Windows 10 (Visual Studio 2019 x64) - Linux (x64, armv7, aarch64) - Android (armeabi-v7a, arm64-v8a) ``` 支持的模型框架： ```bash - TensorFlow Lite - TensorFlow Lite with delegate (XNNPACK, GPU, EdgeTPU, NNAPI) - TensorRT (GPU, DLA) - OpenCV(dnn) - OpenCV(dnn) with GPU - OpenVINO with OpenCV (xml+bin) - ncnn - ncnn with Vulkan - MNN (with Vulkan) - SNPE (Snapdragon Neural Processing Engine SDK (Qualcomm Neural Processing SDK for AI v1.51.0)) - Arm NN - NNabla - NNabla with CUDA ```

高通开发者论坛

2,850

社区成员

5,747

社区内容

发帖

与我相关

我的任务

人工智能物联网机器学习技术论坛（原bbs）北京·东城区

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章