2,853
社区成员




当模型在真正部署,需要模型压缩的时候,量化、剪枝、知识蒸馏等压缩方法一般会使用哪些呢?
1.物联网实施的主要挑战是什么?
>1.物联网实施的主要挑战是什么?
到目前为止,我们已经讨论了物联网对企业和个人而言有多好,但是它还附带了另一个方面。实施物联网的首要问题是安全性。由于数据是通过Internet交换的,因此网络罪犯很容易想到一种实际上可以闯入网络并窃取有价值信息的系统。考虑上述情况发生在医疗保健行业中,病人记录向公众公开。
量化是一个大部分硬件平台都会支持的,因此比较常用;知识蒸馏有利于获得小模型,还可以进一步提升量化模型的精度,所以这个技巧也会使用,尤其是在有已经训好比较强的大模型的基础上会非常有用。剪枝用的会相对较少,因为可以被网络结构搜索覆盖。