LSTM三种门的作用？

财富自由终极目标 2021-07-15 16:04:12

LSTM三种门的作用？

...全文
3051 1 打赏 收藏 转发到动态 举报
AI 作业
写回复
用AI写文章
1 条回复
切换为时间正序
请发表友善的回复…
发表回复
weixin_38498942 2021-07-15
  • 打赏
  • 举报
 回复 1

遗忘门”的作用是让循环神经网络“忘记”之前没有用的信息。“输入门”决定哪些信息进入当前时刻的状态。通过“遗忘门”和“输入门”，LSTM 结构可以很有效地决定哪些信息应该被遗忘，哪些信息应该得到保留。LSTM 在得到当前时刻状态CtCt之后，需要产生当前时刻的输出，该过程通过“输出门”完成。

lstm长短时记忆神经网络PPT
对lstm长短时记忆神经网络的简单介绍，包括循环神经网络的基础知识，lstm的简介和用lstm预测正弦图像的实验。
LSTM三个门控机制详解
LSTM三个门控机制详解
LSTM的三个门
忘记门： 作用对象：细胞状态 作用：将细胞状态中的信息选择性的遗忘 让我们回到语言模型的例子中来基于已经看到的预测下一个词。在这个问题中，细胞状态可能包含当前主语的类别，因此正确的代词可以被选择出来。当我们看到新的主语，我们希望忘记旧的主语。 例如，他今天有事，所以我。。。当处理到‘’我‘’的时候选择性的忘记前面的’他’，或者说减小这个词对后面词的作用。 输入层门： 作用对象：细胞状态 作用：将新的信息选择性的记录到细胞状态中 在我们语言模型的例子中，我们希望增加新的主语的类别到细胞状态中，...
为什么LSTM可以缓解梯度消失？
参考资料： Why LSTMs Stop Your Gradients From Vanishing: A View from the Backwards Pass RNN 前言   早些时候写了一篇关于RNN/LSTM的博客，介绍了RNN、LSTM的基本原理，其中提到了RNN梯度消失的问题，借机引出了LSTM。当时的文章中只写到了LSTM可以缓解梯度消失，但没有写明原因，原因是当时太想当然了，没有仔细思考这个问题。由于那篇博文的阅读量很多，本着负责的态度，现在重新把这个问题翻出来好好解释一下。   本文
什么是 LSTM – 长短期记忆？
这使得 Bi LSTM 能够学习序列数据中比传统 LSTM 更长的依赖关系，传统 LSTM 只能在一个方向上处理序列数据。本文对 LSTM 进行了深入的介绍，涵盖了 LSTM 模型、架构、工作原理以及它们在各种应用中发挥的关键作用。如果对于特定单元格状态，输出为 0，则信息片段将被遗忘，对于输出 1，将保留该信息以备将来使用。LSTM 架构中的网络可以堆叠以创建深度架构，从而能够学习顺序数据中更复杂的模式和层次结构。LSTM 具有控制信息流的单元状态和门控机制，而 GRU 具有更简单的单门更新机制。
高通开发者论坛

2,853

社区成员

5,760

社区内容

发帖
与我相关
我的任务
社区描述
本论坛以AI、WoS 、XR、IoT、Auto、生成式AI等核心板块组成，为开发者提供便捷及高效的学习和交流平台。 高通开发者专区主页：https://qualcomm.csdn.net/
人工智能物联网机器学习 技术论坛（原bbs） 北京·东城区
社区管理员
  • csdnsqst0050
  • chipseeker
加入社区
  • 近7日
  • 近30日
  • 至今

加载中

查看更多榜单
社区公告
暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章