SNPE模型部署的整体流程？

红啵啵 2023-06-15 11:52:12

SNPE模型部署的整体流程？

...全文

1719 1 打赏收藏转发到动态举报

写回复

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

weixin_38498942 2023-06-15

打赏
举报

回复

大致步骤：训练模型 -> 模型转.dlc -> 模型量化 -> 验证量化结果 -> 模型部署

optimizations cle --optimizations bc对应的量化算法效果最佳，但是这种量化算法对模型结构有一定的限制且量化速度较慢，如果使用这种量化算法出现量化失败，可以将–optimizations cle --optimizations bc这两个选项去掉，使用snpe默认的量化算法。然后从/home/对应的路径拷贝至/root/snpe/目录中。准备量化的输入图片数据：首先从测试集中获取N张图片(N的取值范围推荐在50~200之间)，然后将图片转换成raw文件，转换脚本可参考。

User-defined Operations（自定义OP）对于需要自定义操作的场景，SNPE API支持开发者编写自己的操作并集成到SNPE中。这通常涉及到配置UDO（User-Defined Operation）包描述文件、编写后端执行函数以及编译生成相应的.so库文件。模型转换工具SNPE提供了命令行工具用于将不同深度学习框架（如Caffe、TensorFlow、ONNX等）训练的模型转换为SNPE支持的DLC格式。这些工具通常位于SNPE SDK的bin目录下。

当我们辛苦收集数据、数据清洗、搭建环境、训练模型、模型评估测试后，终于可以应用到具体场景，但是，突然发现不知道怎么调用自己的模型，更不清楚怎么去部署模型！这也是今天“计算机视觉研究院”要和大家分享的内容，部署模型需要考虑哪些问题，考虑哪些步骤及现在常用的部署方法！1当我们辛苦收集数据、数据清洗、搭建环境、训练模型、模型评估测试后，终于可以应用到具体场景，但是，突然发现不知道怎么调用自己的模型，更不清楚怎么去部署模型！使用GPU Coder生成整个端到端应用程序的代码。

点击上方蓝字关注我们计算机视觉研究院专栏作者：Edison_G当我们辛苦收集数据、数据清洗、搭建环境、训练模型、模型评估测试后，终于可以应用到具体场景，但是，突然发现不知道怎么调用自己的模型，更不清楚怎么去部署模型！这也是今天“计算机视觉研究院”要和大家分享的内容，部署模型需要考虑哪些问题，考虑哪些步骤及现在常用的部署方法！今天内容较多，感兴趣的请收藏慢慢阅读！公众号ID｜ComputerVisi...

当我们辛苦收集数据、数据清洗、搭建环境、训练模型、模型评估测试后，终于可以应用到具体场景，但是，突然发现不知道怎么调用自己的模型，更不清楚怎么去部署模型！这也是今天“计算机视觉研究院”要和大家分享的内容，部署模型需要考虑哪些问题，考虑哪些步骤及现在常用的部署方法！1当我们辛苦收集数据、数据清洗、搭建环境、训练模型、模型评估测试后，终于可以应用到具体场景，但是，突然发现不知道怎么调用自己的模型，更不清楚怎么去部署模型！使用GPU Coder生成整个端到端应用程序的代码。

高通开发者论坛

2,851

社区成员

5,756

社区内容

发帖

与我相关

我的任务

人工智能物联网机器学习技术论坛（原bbs）北京·东城区

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章