有谁了解过Snapdragon Neural Processing Engine吗?

zuoyang1234567 2017-09-14 04:20:49

有谁了解过Snapdragon Neural Processing Engine吗

...全文

887 1 打赏收藏转发到动态举报

写回复

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

weixin_38498942 2020-03-09

打赏
举报

回复

骁龙神经处理引擎，主要用于人工智能领域，同时也支持很多我们熟知的Caffee等。

尪錓0327 2017-09-14

打赏
举报

回复

Snapdragon Neural Processing Engine是指骁龙神经处理引擎，是高通新推出的SDK，具体可以参考 https://developer.qualcomm.com/software/snapdragon-neural-processing-engine 可以去官网了解具体使用方法 https://developer.qualcomm.com/software/snapdragon-neural-processing-engine

支持的计算平台： ```bash - Windows 10 (Visual Studio 2019 x64) - Linux (x64, armv7, aarch64) - Android (armeabi-v7a, arm64-v8a) ``` 支持的模型框架： ```bash - TensorFlow Lite - TensorFlow Lite with delegate (XNNPACK, GPU, EdgeTPU, NNAPI) - TensorRT (GPU, DLA) - OpenCV(dnn) - OpenCV(dnn) with GPU - OpenVINO with OpenCV (xml+bin) - ncnn - ncnn with Vulkan - MNN (with Vulkan) - SNPE (Snapdragon Neural Processing Engine SDK (Qualcomm Neural Processing SDK for AI v1.51.0)) - Arm NN - NNabla - NNabla with CUDA ```

Docker image For SNPE Docker image for Snapdragon Neural Processing Engine SDK with caffe & adb Usage build docker build -t snpe . Run docker run -it --privileged -v ~/Git/snpe-1.13.0:/root/snpe -v /dev/bus/usb:/dev/bus/usb --name=snpe snpe 将 caffemodel 转换为 dlc # First time run # 将 clone 下来的 snpe 仓库挂载至 docker 镜像的 `/root/snpe` docker run -it -v ~/Git/snpe:/root/snpe --na

PyTorch版的YOLOv8支持高性能的实时实例分割。TensorRT是针对英伟达GPU的加速工具。ONNX （Open Neural Network Exchange）作为一个开放的网络模型中间表示（IR）格式，提供了跨框架兼容性。可以方便不同的框架轻松地交换模型，有助于框架之间的互操作性。本课程讲述如何对YOLOv8实例分割的PyTorch权重文件转成ONNX格式并进行TensorRT加速部署。相比与直接使用TensorRT API构建推理引擎，本方法更具灵活性，可用于修改YOLOv8网络架构后的模型部署。课程亮点包括：YOLOv8实例分割的PyTorch权重文件转成ONNX，再转成TensorRT 推理引擎支持在GPU上端到端TensorRT加速部署，包括预处理（图像resize, 归一化）、网络推理、后处理（非极大抑制）均在GPU上执行支持FP16加速提供C++和Python的TensorRT加速命令接口分别在Windows和Ubuntu系统上做YOLOv8的ONNX转换及TensorRT部署演示支持图片、图片文件夹、视频文件的TensorRT的加速推理提供YOLOv8的ONNX转换及TensorRT加速部署代码和代码解析文档实测推理速度提高2倍以上。课程内容包括：原理篇（YOLOv8网络架构与组件、TensorRT基础、ONNX基础、CUDA编程方法）实践篇（Windows和Ubuntu系统上的ONNX模型转换及TensorRT加速部署流程演示）代码解析篇（YOLOv8的ONNX模型转换及TensorRT加速的代码解析）

Snapdragon Neural Processing Engine A Product of Qualcomm Technologies, Inc. Snapdragon NPE SDK Premium tier Qualcomm® Snapdragon™ mobile platforms have extensive heterogeneou

SNPE提供以下高级API: DL Container Loader: SNPE使用后缀为dlc的模型文件，提供了模型load函数； Molde Vallidation :检查输入模型与所选择的运行后端是否合法； Runtime Engine : 选择运行模式的API, 包括CPU, GPU, DSP和AIP四种运行模式； Partitioning Logic ...

Qualcomm 开发者论坛

949

社区成员

5,228

社区内容

发帖

与我相关

我的任务

人工智能物联网机器学习企业社区北京·东城区

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章