批量归一化

1.解决问题损失出现在最后，在反向传播的过程中，后面的层梯度较大，训练较快，数据在最底部，底部层梯度较小，训练较慢。底部层一变化，所有都得跟着变·最后的那些层需要重新学习多次，导致收敛变慢2.批量归一化的思想·固定小批量输入的分布（均值和方差)然后再做额外的调整（可学习的参数):3.作用在全连接层和卷积层输出上，激活函数前全连接层和卷积层输入上●对全连接层，作用在特征维●对于卷积层，作用在通道维我们可以将每个像素看做一个样本的话，（这种思想也常用语1*1.