SNPE模型部署的整体流程？

红啵啵 2023-06-15 11:52:12

SNPE模型部署的整体流程？

...全文

1780 1 打赏收藏转发到动态举报

写回复

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

weixin_38498942 2023-06-15

打赏
举报

回复

大致步骤：训练模型 -> 模型转.dlc -> 模型量化 -> 验证量化结果 -> 模型部署

optimizations cle --optimizations bc对应的量化算法效果最佳，但是这种量化算法对模型结构有一定的限制且量化速度较慢，如果使用这种量化算法出现量化失败，可以将–optimizations cle --optimizations bc这两个选项去掉，使用snpe默认的量化算法。然后从/home/对应的路径拷贝至/root/snpe/目录中。准备量化的输入图片数据：首先从测试集中获取N张图片(N的取值范围推荐在50~200之间)，然后将图片转换成raw文件，转换脚本可参考。

当我们辛苦收集数据、数据清洗、搭建环境、训练模型、模型评估测试后，终于可以应用到具体场景，但是，突然发现不知道怎么调用自己的模型，更不清楚怎么去部署模型！这也是今天“计算机视觉研究院”要和大家分享的内容，部署模型需要考虑哪些问题，考虑哪些步骤及现在常用的部署方法！1当我们辛苦收集数据、数据清洗、搭建环境、训练模型、模型评估测试后，终于可以应用到具体场景，但是，突然发现不知道怎么调用自己的模型，更不清楚怎么去部署模型！使用GPU Coder生成整个端到端应用程序的代码。

点击上方蓝字关注我们计算机视觉研究院专栏作者：Edison_G当我们辛苦收集数据、数据清洗、搭建环境、训练模型、模型评估测试后，终于可以应用到具体场景，但是，突然发现不知道怎么调用自己的模型，更不清楚怎么去部署模型！这也是今天“计算机视觉研究院”要和大家分享的内容，部署模型需要考虑哪些问题，考虑哪些步骤及现在常用的部署方法！今天内容较多，感兴趣的请收藏慢慢阅读！公众号ID｜ComputerVisi...

当我们辛苦收集数据、数据清洗、搭建环境、训练模型、模型评估测试后，终于可以应用到具体场景，但是，突然发现不知道怎么调用自己的模型，更不清楚怎么去部署模型！这也是今天“计算机视觉研究院”要和大家分享的内容，部署模型需要考虑哪些问题，考虑哪些步骤及现在常用的部署方法！1当我们辛苦收集数据、数据清洗、搭建环境、训练模型、模型评估测试后，终于可以应用到具体场景，但是，突然发现不知道怎么调用自己的模型，更不清楚怎么去部署模型！使用GPU Coder生成整个端到端应用程序的代码。

针对云端部署的框架里，我们可以大致分为两类，一种是主要着力于解决推理性能，提高推理速度的框架，这一类里有诸如tensorflow的tensorflow serving、NVIDIA基于他们tensorRt的Triton(原TensorRt Serving)，onnx-runtime，国内的paddle servering等，将模型转化为某一特定形式（转化的过程中可能伴有一些优化的操作），并对外提供服务，以此来获得相对较高的性能。一是在移动端/边缘端的部署，即嵌入式，通常以SDK形式呈现。

高通开发者论坛

3,202

社区成员

5,792

社区内容

发帖

与我相关

我的任务

人工智能物联网机器学习技术论坛（原bbs）北京·东城区

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章