神经网络层数越多效果越好？

weixin_32156339 2021-05-19 02:58:15

神经网络层数越多效果越好？

...全文

2518 1 打赏收藏转发到动态举报

写回复

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

weixin_38498942 2021-05-20

打赏
举报

回复

一般思路里，我们会认为图神经网络越深，效果就会越好。然而，帝国理工学院教授Michael Bronstein 发出的灵魂拷问：图神经网络的深度，真的会带来优势吗？所以，这个问题是个问题

为什么神经网络层数越多越好？参考资料：https://www.zhihu.com/question/65403482、https://blog.csdn.net/weixin_44023658/article/details/106177580、https://www.bilibili.com/video/BV1bx411M7Zx 一句话回答 神经网络层数越多，对输入特征抽象的层次越深，对其理解的准确度相对来说也就越深。 神经网络关于层数的原理人工智能的编程相比于传统编程的一个重要特点就在于，我们难以知

实验表明，如果隐层结点数过少，网络不能具有必要的学习能力和信息处理能力。反之，若过多，不仅会大大增加网络结构的复杂性（这一点对硬件实现的网络尤其重要），网络在学习过程中更易陷入局部极小点，而且会使网络的学习速度变得很慢。隐层结点数的选择问题一直受到高度重视。方法1： fangfaGorman指出隐层结点数s与模式数N的关系是：s＝log2N；方法二： Kolmogorov定理表明，隐层结点数s＝2n＋1（n为输入层结点数）；方法三： s＝sqrt（0.43mn＋0.12nn＋2.54m＋0.77

在确定隐层节点数时必须满足下列条件：（1）隐层节点数必须小于N-1（其中N为训练样本数），否则，网络模型的系统误差与训练样本的特性无关而趋于零，即建立的网络模型没有泛化能力，也没有任何实用价值。二隐层节点数在BP网络中，隐层节点数的选择非常重要，它不仅对建立的神经网络模型的性能影响很大，而且是训练时出现“过拟合”的直接原因，但是目前理论上还没有一种科学的和普遍的确定方法。研究表明，隐层节点数不仅与输入/输出层的节点数有关，更与需解决的问题的复杂程度和转换函数的型式以及样本数据的特性等因素有关。...

在深度学习的世界里，"深度"始终是一个热门话题。随着技术的发展，我们有了越来越多的方法来构建更深的神经网络，这似乎暗示着“层数越多，效果越好”。然而，这种观点是否总是成立？本文将探讨深度学习中层数与模型性能的关系，以及深层网络在实际应用中的优势与限制。

高通开发者论坛

2,853

社区成员

5,760

社区内容

发帖

与我相关

我的任务

人工智能物联网机器学习技术论坛（原bbs）北京·东城区

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章