resnet18的残差块是什么

ResNet18网络是由多个残差块组成的，每个残差块中又包含了多个卷积层和一个跨层连接。ResNet18中的残差块是基础的残差块，它由两个相同的卷积层组成，在卷积层之间加了一个跨层连接。残差块的原理是在堆叠卷积层和激活函数之后，将输入直接加到输出中并应用恒等映射，从而使得梯度能够更好地流向较早的层，避免了深层网络中的梯度消失问题。这种设计方法在训练非常深的网络时非常有效，使得ResNet18等网络可以在更深的层数下保持更好的性能。 [^1]

ResNet18的基础残差块可以表示为：

class BasicBlock(nn.Module):
    expansion = 1

    def __init__(self, in_planes, planes, stride=1):
        super(BasicBlock, self).__init__()
        self.conv1 = nn.Conv2d(in_planes, planes, kernel_size=3, stride=stride, padding=1, bias=False)
        self.bn1 = nn.BatchNorm2d(planes)
        self.conv2 = nn.Conv2d(planes, planes, kernel_size=3, stride=1, padding=1, bias=False)
        self.bn2 = nn.BatchNorm2d(planes)

        self.shortcut = nn.Sequential()
        if stride != 1 or in_planes != self.expansion*planes:
            self.shortcut = nn.Sequential(
                nn.Conv2d(in_planes, self.expansion*planes, kernel_size=1, stride=stride, bias=False),
                nn.BatchNorm2d(self.expansion*planes)
            )

    def forward(self, x):
        out = F.relu(self.bn1(self.conv1(x)))
        out = self.bn2(self.conv2(out))
        out += self.shortcut(x)
        out = F.relu(out)
        return out

其中，in_planes表示输入通道数，planes表示输出通道数，stride表示步长，expansion表示在卷积层中的扩展倍数。 [^1]