resnet发展历程
时间: 2024-07-03 22:01:20 浏览: 77
ResNet,全称为Residual Network,是一个深度卷积神经网络模型,由Microsoft Research Asia的研究团队在2015年提出,由Kaiming He、Xiaochun Zhang、Shaoqing Ren和 Jian Sun共同发表在CVPR(计算机视觉和模式识别)会议上。其主要创新在于引入了残差块(Residual Block),解决了深度神经网络训练过程中的梯度消失和过拟合问题。
1. 发展历程:
- 初始提出(2015):ResNet-18、ResNet-34首次亮相,展示了比传统网络更深(152层)而性能更好的结构,标志着深度学习模型的新里程碑。
- 残差块的创新:每个残差块包含一个跳跃连接,使得信息可以直接绕过一些层传递,避免了深层网络训练时梯度消失的问题。
- ResNeXt和Dilated Convolution(2016):进一步发展了网络结构,提出了ResNeXt模型通过通道分组来增强模型的表现力,以及使用膨胀卷积来增加感受野。
- HRNet(2019):虽然不是ResNet的核心改进,但HRNet继承了ResNet的高效思想,同时引入了空间金字塔连接,提升了定位精度。
- 更深层次的发展:后续还有许多基于ResNet的变种,如EfficientNet、SENet等,这些模型在保持效率的同时进一步优化了网络架构。