AIMET 的随机方法到底是什么？这和AdaRound有什么不同吗？

[weixin_32297493]

AIMET 的随机方法到底是什么？这和AdaRound有什么不同吗？

[weixin_38498942]

随机舍入就像名字所暗示的舍入方法，随机选择每个张量值的舍入。这应该在 QAT 期间使用。
公平地说，我们还没有看到这个方案令人信服的结果，我建议避免它。
AdaRound 与随机舍入有一些相似之处 - 最大的区别在于 AdaRound 是一种独立的后训练技术，可以学习如何舍入。因此，在某种程度上，AdaRound 试图追求最佳的随机舍入。我们已经看到 AdaRound 取得了出色的成果。