googlenet深度学习新人，训练的loss值突然变为0后一直变化，请问会是什么原因

nanoshikitty 2016-12-29 03:48:28

一共500张图片，348张训练，152张验证，请问这是梯度消失的情况吗，下一步应该怎么做

...全文

5618 2 打赏收藏转发到动态举报

写回复

2 条回复

切换为时间正序

请发表友善的回复…

发表回复

yunz619 2017-09-11

打赏
举报

回复

目测是overfitting 已经完美分类train set了个人认为几个可能的解决办法 1.加个dropout 2. 从数据集中再分出来个validation set（或者用之前的train set做cross validation），看着validation set的loss做early stopping。

程序狗觅食中 2017-01-17

打赏
举报

回复

训练数据太小，overfitting了

原文：Advanced Deep Learning with TensorFlow 2 and Keras 协议：CC BY-NC-SA 4.0 译者：飞龙本文来自【ApacheCN 深度学习 译文集】，采用译后编辑（MTPE）流程来尽可能提升效率。不要担心自己的形象，只关心如何实现目标。——《原则》，生活原则 2.3.c 一、使用 Keras 入门高级深度学习 在第一章中，我们将介绍在本书中将使用的三个深度学习人工神经网络。这些网络是 MLP，CNN 和 RNN（在第 2 节中定义和描述），它们

本章涵盖基本概念的高级定义机器学习发展的时间线深度学习日益普及和未来潜力背后的关键因素在过去几年中，人工智能（AI）一直是媒体炒作的对象。机器学习、深度学习和人工智能在无数文章中出现，通常是在技术类出版物之外。我们被承诺一个智能聊天机器人、自动驾驶汽车和虚拟助手的未来——有时被描绘成一个阴暗的未来，有时被描绘成乌托邦，人类的工作将变得稀缺，大部分经济活动将由机器人或人工智能代理处理。

深度学习是一项强大的新技术，我们认为它应该应用于许多学科。领域专家最有可能发现它的新应用，我们需要更多来自各个背景的人参与并开始使用它。这就是为什么 Jeremy 共同创立了 fast.ai，通过免费在线课程和软件使深度学习更容易使用。Sylvain 是 Hugging Face 的研究工程师。以前他是 fast.ai 的研究科学家，曾是一名数学和计算机科学教师，负责培养学生进入法国精英大学的计划。我们一起写这本书，希望尽可能多地将深度学习交到更多人手中。你的分类器是一个深度学习模型。

在本章中，我们学习了不同的技术来表示深度学习中的文本数据。我们学习了如何在处理不同领域时使用预训练的词嵌入和我们自己训练的嵌入。我们使用 LSTM 和一维卷积构建了文本分类器。我们还了解了如何使用最先进的语言建模架构生成文本。在下一章中，我们将学习如何训练深度学习算法来生成时尚图像、新图像，并生成文本。在本章中，我们解释了自编码器及其不同的变体。在整个章节中，我们提供了一些编码示例，展示它们如何应用于 MNIST 数据集。

如果你拿起这本书，你可能已经意识到了近年来深度学习对人工智能领域所代表的非凡进步。我们从几乎无法使用的计算机视觉和自然语言处理到在你每天使用的产品中大规模部署的高性能系统。这一突然进步的后果影响几乎每个行业。我们已经将深度学习应用于跨越医学成像、农业、自动驾驶、教育、灾害预防和制造等不同领域的一系列重要问题。然而，我认为深度学习仍处于早期阶段。到目前为止，它只实现了其潜力的一小部分。随着时间的推移，它将走向能够帮助的每一个问题——这是一个需要几十年时间的转变。

4,499

社区成员

15,365

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章