CBAM注意力机制公式

CBAM注意力机制的公式如下：

$$
\begin{aligned}
\mathbf{M}_{\mathrm{channel}} &= \mathrm{sigmoid}(\mathrm{MLP}_{\mathrm{channel}}(\mathrm{AvgPool}(\mathbf{X}))) \\
mathbf{X}_{\mathrm{att}} &= \mathbf{X} \odot \mathbf{M}_{\mathrm{channel}} \\
\mathbf{M}_{\mathrm{spatial}} &= \mathrm{sigmoid}(\mathrm{MLP}_{\mathrm{spatial}}(\mathrm{AvgPool}(\mathbf{X}_{\mathrm{att}}))) \\
\mathbf{X}_{\mathrm{cbam}} &= \mathbf{X}_{\mathrm{att}} \odot \mathbf{M}_{\mathrm{spatial}}
\end{aligned}
$$

其中，$\mathbf{X}$ 表示输入特征图，$\mathrm{AvgPool}$ 表示平均池化操作，$\mathrm{MLP}$ 表示多层感知机，$\odot$ 表示逐元素相乘操作，$\mathrm{sigmoid}$ 表示 sigmoid 函数。

该公式中，CBAM注意力机制分为两个部分：通道注意力和空间注意力。通道注意力通过 MLP 对输入特征图进行平均池化和全连接操作，得到一个通道注意力向量 $\mathbf{M}_{\mathrm{channel}}$，用于对每个通道进行加权。空间注意力则是在通道注意力的基础上，对加权后的特征图再进行平均池化和全连接操作，得到一个空间注意力向量 $\mathbf{M}_{\mathrm{spatial}}$，用于对每个空间位置进行加权。最终，将通道注意力和空间注意力相乘，得到 CBAM 注意力加权后的特征图 $\mathbf{X}_{\mathrm{cbam}}$。