怎样将ECANet插入到 EDSR 的 ResNet 块中

将 ECANet 插入到 EDSR 的 ResNet 块中，可以按照以下步骤进行：

1. 在 ResNet 块的最后一个卷积层之后，添加一个 Global Average Pooling 层，用于将特征图压缩成一个向量。

2. 在 Global Average Pooling 层之后，添加一个全连接层和一个 sigmoid 函数，用于将每个通道的权重归一化到 [0, 1] 的范围内。

3. 将归一化的权重与特征图相乘，得到加权后的特征图。

4. 将加权后的特征图送入下一层 ResNet 块中。

具体来说，ECANet 可以插入到 EDSR 的 ResNet 块中的如下所示：

class ResNetBlock(nn.Module):
    def __init__(self, channels, kernel_size=3, bias=True, bn=False, act=nn.ReLU(True)):
        super(ResNetBlock, self).__init__()
        self.conv1 = nn.Conv2d(channels, channels, kernel_size, padding=kernel_size // 2, bias=bias)
        self.conv2 = nn.Conv2d(channels, channels, kernel_size, padding=kernel_size // 2, bias=bias)
        self.act = act
        self.bn = nn.BatchNorm2d(channels) if bn else None

        # 添加 ECANet 模块
        self.avgpool = nn.AdaptiveAvgPool2d(1)
        self.fc = nn.Sequential(
            nn.Linear(channels, channels // 16),
            act,
            nn.Linear(channels // 16, channels),
            nn.Sigmoid()
        )

    def forward(self, x):
        residual = x
        out = self.conv1(x)
        out = self.act(out)
        out = self.conv2(out)

        # 添加 BN 层
        if self.bn is not None:
            out = self.bn(out)

        # ECANet 操作
        b, c, _, _ = out.size()
        y = self.avgpool(out).view(b, c)
        y = self.fc(y).view(b, c, 1, 1)
        out = out * y.expand_as(out)

        out += residual
        out = self.act(out)
        return out

在这里，我们在 ResNet 块的最后一层卷积层之后添加了一个全局平均池化层，然后是一个全连接层和 sigmoid 函数，用于计算每个通道的权重，并将权重应用于特征图中。最后，我们将加权的特征图送入下一层 ResNet 块中。