coordatt注意力机制

Coordinate Attention是一种注意力机制，通过精确的位置信息对通道关系和长期依赖性进行编码。它包括两个主要步骤：Coordinate信息嵌入和Coordinate Attention生成。

在Coordinate信息嵌入步骤中，作者将位置信息嵌入到通道注意力中，以生成空间选择性的attention maps。相比于传统的通道注意力，Coordinate Attention将通道注意力分解为两个1维特征编码过程，在两个空间方向上聚合特征。这样一来，可以捕获远程依赖关系，并保留精确的位置信息。

在Coordinate Attention生成步骤中，生成的特征图被编码为一对方向感知和位置敏感的attention map。这两个attention map可以互补地应用于输入特征图，以增强关注对象的表示。通过乘法将两个attention map应用于输入特征图，以强调感兴趣的表示。

因此，Coordinate Attention是一种新颖的注意力机制，通过嵌入位置信息来改善移动网络的性能。它可以参与大区域，同时避免产生大量计算开销，并且能够保留精确的位置信息。由于其操作区分空间方向并生成坐标感知注意力图，所以被称为坐标注意力。