卷积神经网络训练集准确率升高到40%，Loss一直保持在34左右是什么原因啊？

SHBESW 2020-06-29 01:54:49

卷积网络如下：（我是个小白，不太会

）

...全文

962 回复打赏收藏转发到动态举报

写回复

回复

切换为时间正序

请发表友善的回复…

发表回复

训练集在训练过程中，loss稳步下降，准确率上升，最后能达到97% 验证集准确率没有升高，一直维持在50%左右（二分类问题，随机概率）测试集准确率57% 在网上搜索可能打的原因： 1.learning rate太小，陷入局部最优 2.训练集和测试集数据没有规律 3.数据噪声太大 4.数据量太小（总共1440个样本，80%为训练集） 5.训练集和测试集数据分布不同：如训练集正样本太少（训练集和测试集每次运行随机选择，故排除） 6.数据集存在问题，如标注有问题（采用公开数据集，排除） 7.学习率过大 8.模型

第二层是hidden layer，我们设置它的neurons有n个，上图中n=15 第三层是output layer，它有10个neurons（因为数字无非就是0~9），并且我们假定，如果第一个neuron被激活，ouput=1，那么就说是被到的数字为0，以此类推。所谓感受野，即一个像素对应回原图的区域大小，假如没有pooling，一个3*3，步长为1的卷积，那么输出的一个像素的感受野就是3*3的区域，再加一个stride=1的3*3卷积，则感受野为5*5。可以达到降低模型的规模，加速训练的目的。

转载自：https://blog.csdn.net/weixin_40645361/article/details/105018944（作者：一只懒猪猪） Part One.卷积神经网络的基本原理一、卷积神经网络的基本结构对于一个输入图像，进行卷积操作，得到一个特征图像feature map的一个值(紫色部分)，然后通过滑动卷积核对图像上的不同的区域做处理，可以得到这个特征图1。这个特征图1，就是对原始的图像通过卷积操作和激活函数这样的处理得到的。然后这个特征图1可以通过池化层pooling，然后

目录一、常用的卷积神经网络概述二、基础的神经网络三、卷积神经网络 四、AlexNet 五、NiN 六、VGG 七、GoogleNet 1、Inception V1 2、Inception V2 3、Inception V3 4、Inception V4 八、ResNet 九、ResNeXt 十、性能比较十一、CNN的设计准则一、常用的卷积神经网络概述 ...

问题原因：学习率设置太高，一个epoch直接收敛，所以损失不会下降。又没有设置防止过拟合的比如学利率一开始设置为1，因为下降太快，那么很有可能在一个epoch旧完全收敛。所以看到的validation数值并不下降，第一个epoch就已经处于谷底了。最常见的原因：过拟合。主要包括：数据量小，网络复杂， learning rate 比较高，又没有设置任何防止过拟合的机制解决方法：简化模型，且进行数据增强，如：翻转，平移，随机裁剪等利用 dropout层利用正则化normalization 没有

其他开发语言

3,424

社区成员

15,635

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章