在ENet-SAD训练时, train_loss下降并趋于不变 val_loss上升

Pluto_cc 2020-12-05 10:41:54

试了各种方法了包括调小学习率、增加车道线的权重等

...全文

1198 回复打赏收藏转发到动态举报

写回复

回复

切换为时间正序

请发表友善的回复…

发表回复

train loss 下降⬇，val loss下降⬇，说明网络仍在学习；~~ 奈斯，继续训练 train loss 下降⬇，val loss上升⬆，说明网络开始过拟合了；~~ 赶紧停止，然后数据增强、正则 train loss 不变，val loss不变，说明学习遇到瓶颈；~~ 调小学习率或批量数目 train loss 不变，val loss下降⬇，说明数据集100%有问题；~~ 检查数据集标注有没有问题 train loss 上升⬆，val loss上升⬆，说明网络结构设计不当，训练超参数设置不当，数据

清除pycharm缓存 pycharm缓存位置：C:\Users\A\.PyCharm2018.3\system\caches

第一种：使用validation_split=0.2 H = model.fit(trainX, trainY, batch_size=BS, epochs=EPOCHS, validation_split=0.2, shuffle=True) # plot the training loss and accuracy training_vis(H) # set the matplot...

caffe自带可视化训练log的脚本程序但是这个程序会将：train_loss,test_loss,lr,acc每个指标单独画一张图（根据参数可选则画什么），如下：我觉得这样生成的图片太多了，而且train_loss和test_loss（实际上是训练过程中的val_loss）通常是要放在一起对比来看的，所以放在同一张图中会更清晰的看出是否过拟合或者欠拟合。因此我自己写了个程序提取...

loss是训练集的损失值，val_loss是测试集（验证集）的损失值以下是loss与val_loss的变化反映出训练走向的规律总结： train loss 不断下降，test loss不断下降，说明网络仍在学习;（最好的） train loss 不断下降，test loss趋于不变，说明网络过拟合;（max pool或者正则化） train loss 趋于不变，test loss不断下降，说明数据集100%有问题;（检查dataset） train loss 趋于不变，test loss趋于不变，说明学习

374

社区成员

345

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章