在最后一层使用激活函数时，无法产生所需全部范围的值？

茶白道在逃杨枝甘露 2022-01-27 10:07:26

在最后一层使用激活函数时，无法产生所需全部范围的值？

...全文
1951 1 打赏 收藏 转发到动态 举报
AI 作业
写回复
用AI写文章
1 条回复
切换为时间正序
请发表友善的回复…
发表回复
weixin_38498942 2022-01-27
  • 打赏
  • 举报
 回复

如果你使用Relu这类限制范围的函数，神经网络便只会训练得到正值。你的目的是回归而不是分类的话，那么绝大多数时候你不应该在最后一层使用激活函数。其他视情况而定。

人脸识别代码实例下载
神经网络实现人脸识别的MATLAB代码，有图像文件
深度学习（激活函数）
在神经网络中，激活函数分为两种：隐藏层激活函数和输出层激活函数。函数是决定神经网络模型输出的数学方程。换句话说，激活函数是在人工神经网络中添加的一种函数，用于帮助网络学习数据中的复杂模式。它接收来自上一个单元的输出信号，并将其转换为下一个单元可以接受的形式。所有隐藏层通常使用相同的激活函数。输出层通常会使用与隐藏层不同的激活函数，这取决于模型所需的预测类型。激活函数通常也是可微分的，这意味着可以计算给定输入值的一阶导数。
神经网络中的各种激活函数
一、激活函数简介 1.激活函数的作用 如下图，在神经元中，输入的 inputs 通过加权，求和后，还被作用了一个函数，这个函数就是激活函数 Activation Function。不一定是step function，可以是其他形式的非线性函数。 使用激活函数的目的是给神经元引入非线性因素，从而使神经网络能够解决线性不可分的问题，比如最简单的异或。Hornik证明，只需一个包含足够多的神经元的
为什么使用非线性激活函数？常见的非线性激活函数及优缺点对比
为何使用非线性激活函数？ ​ 如上图的神经网络，在正向传播过程中，若使用线性激活函数(恒等激励函数)，即令，则隐藏层的输出为 即 可以看到使用线性激活函数神经网络只是把输入线性组合再输出，所以当有很多隐藏层时，在隐藏层使用线性激活函数的训练效果和不使用影藏层即标准的Logistic回归是一样的。故我们要在隐藏层使用非线性激活函数而非线性的。 通常只有一个地方...
卷积神经网络——输入层、卷积层、激活函数、池化层、全连接层
卷积神经网络（CNN）由输入层、卷积层、激活函数、池化层、全连接层组成，即INPUT（输入层）-CONV（卷积层）-RELU（激活函数）-POOL（池化层）-FC（全连接层）卷积层用它来进行特征提取，如下： 输入图像是32*32*3，3是它的深度（即R、G、B），卷积层是一个5*5*3的filter(感受野),这里注意：感受野的深度必须和输入图像的深度相同。通过一个filter与输入图像的卷积可以
高通开发者论坛

2,851

社区成员

5,758

社区内容

发帖
与我相关
我的任务
社区描述
本论坛以AI、WoS 、XR、IoT、Auto、生成式AI等核心板块组成，为开发者提供便捷及高效的学习和交流平台。 高通开发者专区主页：https://qualcomm.csdn.net/
人工智能物联网机器学习 技术论坛（原bbs） 北京·东城区
社区管理员
  • csdnsqst0050
  • chipseeker
加入社区
  • 近7日
  • 近30日
  • 至今

加载中

查看更多榜单
社区公告
暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章