在对网络结构友好型的量化过程中 对于channel分配上有什么经验？

想喝杨枝甘露 2021-06-23 14:27:25

在对网络结构友好型的量化过程中 对于channel分配上有什么经验？

...全文
2144 1 打赏 收藏 转发到动态 举报
AI 作业
写回复
用AI写文章
1 条回复
切换为时间正序
请发表友善的回复…
发表回复
weixin_38498942 2021-06-24
  • 打赏
  • 举报
 回复

如果层中本身计算量较小，那么它的channel就需要更大一些，不同网络结构的规律也有所不同。

深度神经网络压缩方案-20190928-v1.pdf
深度神经网络压缩方案-20190928-v1.pdf
深度学习之神经网络量化理解
刚开始接触神经网络，对量化是2年前那会，用NCNN和TVM在树莓派上部署一个简单的SSD网络。那个时候使用的量化脚本是参考于TensorRT和NCNN的PTQ量化（训练后量化）模式，使用交叉熵的方式对模型进行量化，最终在树莓派3B+上部署一个简单的分类模型（识别剪刀石头布静态手势）。这是那会的一篇文章，略显稚嫩哈哈：一步一步解读神经网络编译器TVM(二)——利用TVM完成C++端的部署转眼间过了这么久啦，神经网络量化应用已经完全实现大面积落地了、相比之前成熟多了！
神经网络INT8量化~部署
这里详解量化的基本概念以及卷积量化的实际操作。老潘刚开始接触是2年前那会，用NCNN和TVM在树莓派上部署一个简单的SSD网络。那个时候使用的量化脚本是参考于TensorRT和NCNN的PTQ量化（训练后量化）模式，使用交叉熵的方式对模型进行量化，最终在树莓派3B+上部署一个简单的分类模型（识别剪刀石头布静态手势）。转眼间过了这么久啦，神经网络量化应用、相比之前成熟多了！whaosoft aiot http://143ai.com 这就是pre-channel或者详细点就是per-output-channe
神经网络模型量化综述（上）
作为通用神经网络模型优化方法之一，模型量化可以减小深度神经网络模型的尺寸大小和模型推理时间，其适用于绝大多数模型和不同的硬件设备。
一起实践神经网络INT8量化系列教程（一）
开篇 老潘刚开始接触神经网络量化是2年前那会，用NCNN和TVM在树莓派上部署一个简单的SSD网络。那个时候使用的量化脚本是参考于TensorRT和NCNN的PTQ量化（训练后量化）模式，使用交叉熵的方式对模型进行量化，最终在树莓派3B+上部署一个简单的分类模型（识别剪刀石头布静态手势）。 这是那会的一篇文章，略显稚嫩哈哈： 一步一步解读神经网络编译器TVM(二)——利用TVM完成C++端的部署 转眼间过了这么久啦，神经网络量化应用已经完全实现大面积落地了、相比之前成熟多了！ 我工作的时候虽然也简单接
高通开发者论坛

2,853

社区成员

5,760

社区内容

发帖
与我相关
我的任务
社区描述
本论坛以AI、WoS 、XR、IoT、Auto、生成式AI等核心板块组成，为开发者提供便捷及高效的学习和交流平台。 高通开发者专区主页：https://qualcomm.csdn.net/
人工智能物联网机器学习 技术论坛（原bbs） 北京·东城区
社区管理员
  • csdnsqst0050
  • chipseeker
加入社区
  • 近7日
  • 近30日
  • 至今

加载中

查看更多榜单
社区公告
暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章