什么样的量化方法可以带来潜在、可落地的速度提升呢？

[weixin_28747217]

什么样的量化方法可以带来潜在、可落地的速度提升呢？

[weixin_38498942]

1、量化数值的计算在部署硬件上的峰值性能更高 。
2、量化算法引入的额外计算（overhead）少 。