CBAM注意力机制详细介绍

CBAM（Convolutional Block Attention Module）是一种注意力机制，用于增强卷积神经网络（CNN）的表征能力。它由两个部分组成：通道注意力和空间注意力。

通道注意力：通过对每个通道的特征图进行加权，来提高重要通道的响应，抵消无关通道的干扰。具体来说，对于每个通道$i$，CBAM通过一个全局平均池化层，将通道的特征图转换为一个长度为$C$的向量${\bf z}^{(i)}$，然后通过两个全连接层得到一个长度为$C$的权重向量${\bf s}^{(i)}$，用于对每个通道的特征图进行加权。

空间注意力：通过对特征图的空间位置进行加权，来提高重要空间位置的响应，抵消无关空间位置的干扰。具体来说，对于每个通道$i$，CBAM通过一个全局最大池化层，将通道的特征图转换为一个长度为$H\times W$的向量${\bf p}^{(i)}$，然后通过两个全连接层得到一个长度为$H\times W$的权重向量${\bf h}^{(i)}$，用于对每个空间位置的特征图进行加权。最后，将通道注意力和空间注意力结合起来，得到CBAM注意力机制。

CBAM注意力机制可以嵌入到各种卷积神经网络中，例如ResNet、DenseNet等，有效地提高了网络的表征能力和泛化性能。