non-local和self-attention

non-local是一种用于计算机视觉和自然语言处理中的注意力机制，通过考虑不同位置的像素或词汇之间的相互关系来改善模型的表现。

self-attention是一种在自然语言处理中广泛使用的机制，通过计算输入序列中不同位置之间的相互关系来生成用于下一步操作的表示。此机制在BERT和Transformer等最先进的自然语言处理模型中得到广泛应用。

相关问题

image super-resolution with cross-scale non-local attention and exhaustive self-exemplars mining

这是一种图像超分辨率技术，它使用跨尺度非局部注意力和全面的自我示例挖掘来提高图像的分辨率。具体来说，它利用了图像中不同尺度之间的关系，并通过挖掘大量的自我示例来学习更好的图像表示。这种技术可以在保持图像细节的同时提高图像的清晰度和质量。

cswin transformer 和transformer有设么不同

### CSWin Transformer与传统Transformer架构和性能上的区别

#### 架构差异

CSWin Transformer引入了一种新的窗口化注意力机制，该方法通过分层结构来处理图像数据。具体来说，在每一层中，输入特征图被划分为不重叠的局部窗口，并在这些窗口内执行自注意力计算[^1]。

相比之下，传统的Transformers采用全局自注意力机制，这意味着它们能够直接访问句子中的任何词语或位置的信息。然而这种设计对于视觉任务并不总是最优的选择，因为图片通常具有更强的空间局部性和层次化的特性[^2]。

为了更好地捕捉到不同尺度下的空间关系，CSWin采用了逐步增加的感受野策略——即随着网络加深，相邻两个stage之间的patch大小会逐渐增大，从而使得深层可以建模更大范围内的依赖关系；而浅层则专注于细粒度模式的学习[^3]。

此外，CSwin还利用了shifted window scheme来增强跨窗交互能力，这有助于缓解因单纯划分固定区域而导致的信息隔离问题。当涉及到多分辨率分析时，这种方法表现出了显著优势[^4]。

# 这里展示了一个简单的伪代码对比两者的核心操作部分：

def traditional_transformer(x):
    # Global self-attention over all tokens/patches
    attn_output = global_self_attention(x)

def cswin_transformer(x):
    windows = divide_into_windows(x)  # Divide into non-overlapping local windows
    shifted_windows = shift_windows(windows)  # Shift windows for cross-window interaction
    attn_output = local_self_attention(shifted_windows)

#### 性能比较

实验结果显示，在ImageNet分类任务上，CSWin系列模型能够在保持较低参数量的同时达到甚至超过其他先进算法的效果。特别是在大规模数据集下训练后的迁移学习场景中，其泛化能力和效率都得到了验证[^5]。

另一方面，由于减少了不必要的全连接运算以及优化了内存占用情况，CSWin Transformers往往拥有更快的速度和更低能耗，这对于实际应用部署非常重要[^6]。