resnet18神经网络算法原理
时间: 2023-11-02 11:06:08 浏览: 106
backPropagationNN-master_神经网络_反向传播算法_
ResNet18是一种深度卷积神经网络,它是由微软研究院的Kaiming He等人在2015年提出的。ResNet18的主要特点是使用了残差块(Residual Block)来解决深度神经网络中的梯度消失问题,从而使得网络可以更深,性能也更好。
残差块的设计思想是:在传统的卷积神经网络中,每一层的输入都是上一层的输出,即 $H_l = f(H_{l-1})$,其中 $f$ 表示卷积操作和激活函数。而在残差块中,每一层的输入不仅包括上一层的输出,还包括上一层的输入,即 $H_l = f(H_{l-1}) + H_{l-1}$。这样做的好处是,如果某一层的输出与输入相同,那么这一层就相当于没有学习到任何有用的特征,可以直接将其跳过。这种跳过操作可以避免梯度消失问题,使得网络可以更深。
ResNet18由多个残差块组成,其中第一个残差块包含两个卷积层和一个跳过连接,后面的残差块则包含多个这样的基本单元。最后还有一个全局平均池化层和一个全连接层,用于分类。
阅读全文