极限学习机机有学习率一说吗？

哈弄弄 2020-02-08 11:11:23

BP的话懂，ELM这有点不懂了

...全文

52 1 打赏收藏举报

写回复

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

哈弄弄 2020-02-08

打赏
举报

回复

还有就是ELM需要认为设置参数吗？

极限学习机 单隐藏层反馈神经网络具有两个比较突出的能力：（1）可以直接从训练样本中拟合出复杂的映射函数f :x ^ t （2 ）可以为大量难以用传统分类参数技术处理的自然或者人工现象提供模型。但是单隐藏层反馈神经网络缺少比较快速的学习方法。误差反向传播算法每次迭代需要更新n x(L+ 1) +L x (m+ 1 )个值，所花费的时间远远低于所

前言终于要毕业了，毕业设计也做完了，我的毕设是《极限学习机和强化学习在单一资产交易中的应用》，本质上用以极限学习机为值函数逼近器的一类强化学习算法去对一个资产进行交易。既然毕设也做完了，大学生涯也要结束了，那在去工作之前将毕设的东西好好总结一下，也方便以后自己看。算法基础 ELM 极限学习机ELM是一类Single-hidden Layer Feedforward Neural Network...

极限学习机（ELM）用来训练单隐藏层前馈神经网络（SLFN）与传统的SLFN训练算法不同，极限学习机随机选取输入层权重和隐藏层偏置，输出层权重通过最小化由训练误差项和输出层权重范数的正则项构成的损失函数，依据Moore-Penrose（MP）广义逆矩阵理论计算解析求出。理论研究表明，即使随机生成隐藏层节点，ELM仍保持SLFN的通用逼近能力。在过去的十年里，ELM的理论和应用被广泛研究，从学习效率的角度来看，极限学习机具有训练参数少、学习速度快、泛化能力强的优点。

注：下有视频讲解，可供参考单层前馈神经网络（SLFN）以其良好的学习能力在许多领域得到了广泛的应用，然而传统的学习算法，如BP等固有的一些缺点，成为制约其发展的主要瓶颈，前馈神经网络大多采用梯度下降法，该方法存在以下几个方面的缺点和不足： 1、训练速度慢。由于梯度下降法需要多次迭代，从而达到修正权值和阈值的目的，因此训练过程耗时较长； 2、容易陷入局部极小值，无法到达全局最小； 3、学习率的选择敏感，学习率对神经网络的性能影响较大，必须选择合适的才能达到较为理想的效果，太小则算法的收敛速度很慢，.

本篇博客将介绍一个针对SLFN 的新算法——极限学习机(Extreme Learning Machine,ELM),该算法随机产生输入层与隐含层间的连接权值及隐含层神经元的阈值,且在训练过程中无需调整,只需要设置隐含层神经元的个数,便可以获得唯一的最优解。与传统的训练方法相比,该方法具有学习速度快、泛化性能好等优点。

22,298

社区成员

121,727

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章