swin transformer网络框图

以下是Swin Transformer的网络框图：


Swin Transformer的核心是分层的Transformer结构，其中每个Transformer层由两个子层组成：一个全局子层和一个局部子层。在每个全局子层中，输入序列被分成若干个小块，每个小块都可以看作是一个图像块，并对这些图像块进行全局自注意力计算。在每个局部子层中，输入序列被分成多个局部块，每个局部块都只能看作是一个图像块的局部区域，并对这些局部块进行局部自注意力计算。全局和局部子层的输出分别被馈送到多层感知机（MLP）中，然后再通过残差连接和层归一化（LN）相结合。

Swin Transformer还包括一个仿射变换模块（PatchMerging），它可以将相邻的图像块合并为更大的块，并将这些块视为输入序列的新块。这种策略可以增加输入序列的有效长度，从而提高模型的预测性能。在输出层之前，Swin Transformer还包括一个全局池化层，将特征图压缩为一个全局特征向量，然后通过一个全连接层进行分类或回归预测。