swim transformer原理

Swim Transformer是一种特别为视觉领域设计的分层Transformer结构。它采用滑动窗口和分层表示的两大特性。滑动窗口允许在局部不重叠的窗口中计算自注意力，并允许跨窗口连接。而分层结构则允许模型适应不同尺度的图像，并且计算复杂度与图像大小呈线性关系。因此，它被称为一种披着Transformer皮的CNN。Swim Transformer以Vision Transformer（ViT）为起点，借鉴了ResNet的优点，从局部到全局逐步扩大感受野，设计成一种适用于计算机视觉任务的通用主干网络。它可以应用于图像分类、图像分割、目标检测等一系列视觉下游任务。

相关问题

Swim Transformer

Swim Transformer是一种特为视觉领域设计的分层Transformer结构。它具有滑动窗口和分层表示的特点。滑动窗口在局部不重叠的窗口中计算自注意力，并允许窗口之间的连接。分层结构允许模型适应不同尺度的图像，并且计算复杂度与图像大小成线性关系。因此，Swin Transformer被称为一种披着Transformer皮的CNN。它借鉴了CNN的分层结构，不仅适用于分类任务，还可以扩展到下游任务，如图像分割和目标检测等计算机视觉任务。该模型以Vision Transformer（VIT）为起点，吸收了ResNet的优点，并通过逐步扩大感受野的方式设计了Transformer。Swim Transformer的成功并非偶然，而是基于积累与沉淀。

论文题目：Swin Transformer: Hierarchical Vision Transformer using Shifted Windows
论文地址：https://arxiv.org/abs/2103.14030

Swim Transformer的每个块（Block）有两种结构，分别是W-MSA结构和SW-MSA结构。这两种结构是成对使用的，先使用W-MSA结构，然后再使用SW-MSA结构。因此，堆叠Swim Transformer Block的次数是偶数。

swim transformer

Swin Transformer是一种分层式的Vision Transformer，是专为视觉领域设计的一种Transformer结构。它的两大特性是滑动窗口和分层表示。滑动窗口在局部不重叠的窗口中计算自注意力，并允许跨窗口连接。分层结构允许模型适配不同尺度的图片，并且计算复杂度与图像大小呈线性关系，也因此被人成为披着transformer皮的CNN。Swin Transformer借鉴了CNN的分层结构，不仅能够做分类，还能够和CNN一样扩展到下游任务可以，用于计算机视觉任务的通用主干网络，可以用于图像分类、图像分割、目标检测等一系列视觉下游任务。它以VIT作为起点，设计思想吸取了resnet的精华，从局部到全局，将transformer设计成逐步扩大感受野的工具。Swin Transformer Blocks有两种结构，区别在于窗口多头自注意力的计算一个使用了W-MSA结构，一个使用了SW-MSA结构。而且这两个结构是成对使用的，先使用一个W-MSA结构再使用一个SW-MSA结构。所以堆叠Swin Transformer Block的次数都是偶数。