残差神经网络结构出现之前网络的深度
时间: 2024-04-24 20:12:45 浏览: 77
深度学习及卷积神经网络综述
在残差神经网络结构出现之前,深度神经网络很难训练。这是因为随着神经网络的深度增加,梯度消失和梯度爆炸等问题会越来越严重,导致网络无法收敛。因此,在早期,神经网络的深度很少超过10层。随着深度学习技术的发展,一些技术的出现,如卷积神经网络(CNN)和递归神经网络(RNN),使得更深层次的网络可以被训练。但在残差神经网络出现之前,深度神经网络的深度很少超过50层。
阅读全文