CSwin transformer

CSWin Transformer是一种新的视觉Transformer架构，它作为通用的视觉Transformer骨干网络具有跨形窗口的特点。与Swin Transformer相比，CSWin Transformer具有相似的整体结构，但将Swin Transformer Block变为了CSWin Transformer Block，并将Patch Merging下采样变为了Conv下采样。

CSWin Transformer的核心是CSWin Self-Attention，它将多个head分成两个横竖两个方向的并行组，在水平和垂直条带上实现自注意。这种设计可以有效地扩大每个Transformer block内每个token的关注范围。此外，CSWin Transformer还引入了LePE模块，将位置信息直接加入到Value中。

CSWin Transformer的整体结构可以参考论文中的图示。它包含了CSWin Transformer Block，该块由LayerNorm和Cross-shaped window self-attention以及LayerNorm和MLP组成。

你可以在论文《CSWin Transformer: A General Vision Transformer Backbone with Cross-Shaped Windows》中详细了解CSWin Transformer的网络结构和具体实现。 此外，你还可以在GitHub上找到CSWin Transformer的代码实现。<span class="em">1</span><span class="em">2</span><span class="em">3</span><span class="em">4</span>