学习率会对训练结果产生很大影响，但是好难找到合适的学习率？

[Leo-411]

学习率会对训练结果产生很大影响，但是好难找到合适的学习率？ 

[weixin_38498942]

多数深度学习框架会启用梯度裁剪（Clipping Gradient）。这可以防止训练过程中出现的梯度爆炸。它会在每一步中强制改变权重，让权重发生最大限度的改变。这在数据中含有大量异常时尤为有效。但是，开启这个选项也会让用户难以手动找到最佳的学习率。关掉梯度裁剪。找到不会发生错误的最高学习率，并稍稍降低一些数值。这将十分靠近最佳学习率。