resnet发展历史

ResNet（Residual Network）是一种深度卷积神经网络架构，由Kaiming He等人于2015年提出。它的主要贡献是引入了残差连接（residual connection）的概念，解决了深层网络训练过程中的梯度消失和梯度爆炸问题。

在传统的深度神经网络中，随着网络层数的增加，模型的性能会逐渐下降。这是因为在反向传播过程中，梯度会逐层地传递，导致梯度值变得非常小，甚至消失。为了解决这个问题，ResNet提出了残差学习的思想。

残差学习通过在网络中引入跳跃连接（skip connection），将输入直接添加到输出中，形成了一个残差块。这样，在反向传播时，梯度可以直接通过跳跃连接传递到较浅的层，从而避免了梯度消失的问题。此外，残差块还可以通过堆叠来构建更深的网络。

ResNet的发展历史如下：
1. 2015年，Kaiming He等人提出了ResNet，并在ImageNet图像分类任务上取得了优秀的结果。他们通过在网络中引入残差块，成功地训练了152层的深度网络，相比于之前的网络结构，取得了更好的性能。
2. 随后，ResNet的思想被广泛应用于其他计算机视觉任务，如目标检测、语义分割等。在这些任务中，通过使用更深的ResNet网络，取得了更好的性能。
3. 2016年，ResNet的变种模型被提出，如Wide ResNet和ResNeXt。Wide ResNet通过增加通道数来提高模型的表达能力，ResNeXt则通过使用多个分支来增加网络的宽度。
4. 2017年，ResNet的改进版本DenseNet被提出。DenseNet通过在网络中引入密集连接（dense connection），使得每一层都与前面所有层相连，进一步增强了特征的传递和重用能力。