transformer 滑动窗口

滑动窗口是Transformer模型中的一种改进方法，用于处理长序列输入。传统的Transformer模型在处理长序列时会面临内存消耗和计算复杂度增加的问题。而滑动窗口方法通过将输入序列划分为多个窗口，每个窗口只与相邻的窗口进行注意力计算，从而减少了计算复杂度和内存消耗。

具体来说，滑动窗口方法在Transformer的自注意力机制（Self-Attention）中引入了两个新的操作：W-MSA（window_Mutil-head_Self_Attention）和SW-MSA（Shift_window_Mutil-head_Self_Attention）。

首先，输入序列会被划分为多个窗口，每个窗口包含一定数量的输入元素。然后，每个窗口内的元素会进行W-MSA操作，即在窗口内部进行自注意力计算。接下来，窗口之间会进行SW-MSA操作，即窗口之间的元素进行自注意力计算。通过这种方式，滑动窗口方法能够在保持全局信息的同时，减少计算复杂度和内存消耗。

滑动窗口方法的复杂度计算与传统的Transformer模型相比，会有一定的减少。具体的复杂度计算需要根据具体的实现细节和窗口大小来确定。

参考文献：
Liu Z, Lin Y, Cao Y, et al. Swin transformer: Hierarchical vision transformer using shifted windows[C]//Proceedings of the IEEE/CVF international conference on computer vision. 2021: 10012-10022.