社区
刘高联的课程社区_NO_1
亲自动手写一个深度学习框架
帖子详情
代码实践:池化层、激活层的反向传播
轩辕十四
2023-01-12 23:40:43
课时名称
课时知识点
代码实践:池化层、激活层的反向传播
激活函数、多层感知器、池化层、卷积层、卷积神经网络 、卷积 、神经网络、深度学习、矩阵求导、前向传播、反向传播、ReLU、Tanh、Sigmoid
...全文
275
回复
打赏
收藏
代码实践:池化层、激活层的反向传播
课时名称课时知识点代码实践:池化层、激活层的反向传播激活函数、多层感知器、池化层、卷积层、卷积神经网络 、卷积 、神经网络、深度学习、矩阵求导、前向传播、反向传播、ReLU、Tanh、Sigmoid
复制链接
扫一扫
分享
转发到动态
举报
AI
作业
写回复
配置赞助广告
用AI写文章
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
人脸识别
代码
实例下载
神经网络实现人脸识别的MATLAB
代码
,有图像文件
cudnn-8.0-windows10-x64-v5.1(并行计算架构)
cudnn-8.0-windows10-x64-v5.1
CNN
池化
层
反向传播
推导
昨天晚上推CNN反向,
池化
层
这块没推明白,不懂为什么meanpool偏导为1/(k*k),但是上采样却变成了另一种看起来比较简单的方法。 一、明确
反向传播
的是什么 cost函数对某一参数的偏导,即某一参数发生变化,会对cost产生什么影响。 在已l
层
变化对cost的影响,我们可以进一步根据链式法则得到l-1
层
参数对cost的影响。 二、在
池化
层
中 目前,我们已知的是池化后的z(l)变化对cost的影响,想要知道的是池化前的z(l-1)对cost的影响。 z(l-1)通过
激活
函数,变为a(l-1),再经过池化
头歌——机器、深度学习——卷积
层
和
池化
层
的
反向传播
的实现
本关任务:实现卷积
层
的
反向传播
。
池化
层
的
反向传播
是怎么实现的
引言 传统的神经网络无论是隐
层
还是
激活
函数的导数都是可导,可以直接计算出导数函数,然而在CNN网络中存在一些不可导的特殊环节,比如Relu等不可导的
激活
函数、造成维数变化的池化采样、已经参数共享的卷积环节。NN网络的
反向传播
本质就是梯度(可能学术中会用残差这个词,本文的梯度可以认为就是残差)传递,所以只要我们搞懂了这些特殊环节的导数计算,那么我们也就理解CNN的
反向传播
。 Pooling池化操作的反向梯度传播 CNN网络中一个不可导的环节就是Pooling池化操作,因为Pooling操作使得feature
刘高联的课程社区_NO_1
1
社区成员
75
社区内容
发帖
与我相关
我的任务
刘高联的课程社区_NO_1
多年图像处理、机器视觉项目经验,硕士研究生
复制链接
扫一扫
分享
社区描述
多年图像处理、机器视觉项目经验,硕士研究生
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章