将结合深度可分离卷积的全局注意力GAM引入主干特征提取网络

### 集成深度可分离卷积和全局注意力机制 GAM 的方法

在主干特征提取网络中集成深度可分离卷积和全局注意力机制（GAM），可以显著提升模型性能并减少计算资源消耗。具体实现方式如下：

#### 1. 深度可分离卷积的应用
深度可分离卷积由逐通道卷积（Depthwise Convolution）和逐点卷积（Pointwise Convolution）组成，能够有效降低参数量和计算复杂度。

import torch.nn as nn

class DepthwiseSeparableConv(nn.Module):
    def __init__(in_channels, out_channels, kernel_size=3, stride=1, padding=1):
        super(DepthwiseSeparableConv, self).__init__()
        self.depthwise = nn.Conv2d(in_channels, in_channels, kernel_size, stride=stride, padding=padding, groups=in_channels)
        self.pointwise = nn.Conv2d(in_channels, out_channels, 1)

    def forward(self, x):
        x = self.depthwise(x)
        x = self.pointwise(x)
        return x

通过引入深度可分离卷积替代标准卷积层，在保持较高表达能力的同时减少了计算开销[^1]。

#### 2. 全局注意力机制 (GAM) 的设计
全局注意力机制旨在捕捉图像中的长距离依赖关系，并增强重要区域的信息传递效率。其核心思想是在空间维度上施加自适应权重调整。

class GlobalAttentionModule(nn.Module):
    def __init__(self, channels):
        super(GlobalAttentionModule, self).__init__()
        self.avg_pool = nn.AdaptiveAvgPool2d(1)
        self.fc = nn.Sequential(
            nn.Linear(channels, channels // 8),
            nn.ReLU(inplace=True),
            nn.Linear(channels // 8, channels),
            nn.Sigmoid()
        )

    def forward(self, x):
        b, c, _, _ = x.size()
        y = self.avg_pool(x).view(b, c)
        y = self.fc(y).view(b, c, 1, 1)
        return x * y.expand_as(x)

此模块通过对输入特征图进行全局平均池化操作来获取上下文信息，并利用全连接层生成用于调节各通道响应强度的权值向量。

#### 3. 结合两者构建高效特征提取器
为了充分利用二者优势，可以在骨干网的不同层次间交替部署上述两种组件，形成一种混合结构。例如，在ResNet基础上修改残差单元内部的具体运算形式：

class ResidualBlockWithDSandGAM(nn.Module):
    expansion = 1
    
    def __init__(self, inplanes, planes, stride=1, downsample=None):
        super().__init__()
        
        # 使用深度可分卷积代替传统卷积
        self.conv1 = DepthwiseSeparableConv(inplanes, planes, stride=stride)
        self.bn1 = nn.BatchNorm2d(planes)
        self.relu = nn.ReLU(inplace=True)
        
        # 添加全局注意力建模
        self.gam = GlobalAttentionModule(planes)
        
        self.downsample = downsample
        
    def forward(self, x):
        identity = x
        
        out = self.conv1(x)
        out = self.bn1(out)
        out = self.relu(out)
        
        # 应用全局注意力机制
        out = self.gam(out)
        
        if self.downsample is not None:
            identity = self.downsample(x)
            
        out += identity
        out = self.relu(out)
        
        return out

这种设计方案不仅继承了原有架构的优点，还进一步增强了对于细粒度模式识别的能力，适用于多种计算机视觉任务场景。