后训练量化的主要优化目标有哪些？？

轰轰轰轰炸鸡 2021-07-29 13:33:32

后训练量化的主要优化目标有哪些？？

...全文

1879 1 打赏收藏转发到动态举报

写回复

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

weixin_38498942 2021-07-29

打赏
举报

回复

通常特征图、权重都可以转换成向量的形式来进行优化，所以可以不失一般性地假设我们的优化对象就是向量。

按照是否需要训练划分，量化通常可以分为从头训练（train from scratch）、重训练（retrain）、后训练（post-training）三种，本文主要介绍几种后训练量化的方案，并以线性均匀分布的定点量化为例。 **后训练量化指...

探讨AIMET训练后量化方法

目前神经网络在许多前沿领域的应用...神经网络量化是解决上述问题有效方法之一，但是模型量化技术的应用会给模型带来额外噪音，从而导致精度下降，因此工程师对模型量化过程的理解有益于提高部署模型的精度。本文...

本文介绍了大模型量化目标、原理，量化对象以及形式，并对实际落地中最常见的QAT做了较详细的介绍。大家都知道，现在大模型轻松突破上万亿规模参数，但各行各业现在都想部署上大模型，最近手机端也开始卷轻量级大...

高通开发者论坛

2,853

社区成员

5,760

社区内容

发帖

与我相关

我的任务

人工智能物联网机器学习技术论坛（原bbs）北京·东城区

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章