ResNet体系结构

ResNet（_residual network）是一种深度卷积神经网络架构，由Kaiming He等人于2015年提出[^4]。其核心创新在于引入了残差块(residual block)，解决了深度网络训练过程中可能出现的梯度消失和过拟合问题。传统的深层网络可能会因为梯度消失导致无法有效地学习深层次特征，而ResNet通过让网络直接学习输入到输出的残差映射，简化了模型的学习过程。

ResNet的基本结构包括几个主要组件：

1. **基础块(Identity Mapping)**: 这是ResNet的核心部分，它包含两个3x3卷积层，中间通常会有一个ReLU激活函数，然后通过跳跃连接（skip connection）将输入直接与输出相加，形成残差路径[^4]。

   def residual_block(input, num_filters):
       x = conv3x3(input, num_filters)
       x = BatchNorm(x)
       x = ReLU(x)
       x = conv3x3(x, num_filters)
       x = BatchNorm(x)
       return x + input

2. **堆叠残差块**: ResNet通常包含多组这种残差块，每一组的深度逐渐增加，以进一步提升网络的表达能力。

3. **全局平均池化(GAP)**: 在最后一个残差块之后，常常使用全局平均池化来降低维度并得到分类得分，最后接上全连接层进行分类。

x = avg_pool2d(x, kernel_size=7)
x = flatten(x)
logits = linear(x, num_classes)

ResNet因其出色的性能和深度设计，对后续的深度学习研究产生了深远影响，并在ImageNet图像识别挑战赛中取得了显著的进步[^4]。