Two Successive Swin Transformer Blocks怎么画

### 绘制两个连续的Swin Transformer模块架构图

要绘制两个连续的Swin Transformer模块架构图，需理解每个模块内部组件及其相互关系。以下是具体细节：

#### 架构概述
每个Swin Transformer Block由多个子部分组成，包括多头自注意力机制(Multi-head self-attention, MSA)、前馈神经网络(Feed-forward network, FFN)以及残差连接和层归一化(Layer normalization)[^1]。

#### 关键组成部分描述
- **Layer Normalization (LN)**: 应用于输入张量之前。
- **Window-based Multi-head Self-Attention (W-MSA or SW-MSA)**: 自注意力计算被限制于非重叠窗口内；第二个Block采用移位窗口策略以增强跨窗信息交流[^2]。
- **DropPath**: 类似于Dropout，在训练期间随机丢弃一些路径上的数据流动。
- **Add & Norm**: 添加跳过连接并再次执行层归一化处理。
- **MLP Layer**: 多层感知机作为FFNs的一部分，通常包含两层全连接层加上激活函数ReLU或GELU。

#### 图形表示建议
为了清晰展示这两个连续Blocks的关系，推荐按照如下方式布局图形元素：

1. 使用矩形框代表各个主要功能单元（如上述提到的不同层次），并通过箭头指示数据流向；
2. 对于第一个Block内的标准窗口划分(self-attention window partitioning)，可以用虚线网格示意；
3. 当进入下一个Block时，则应突出显示移位后的窗口位置(shifted windows)，同样利用虚线标记新的分区情况；
4. 明确标注各阶段的操作名称，比如“Shift Window Partition”，以便读者快速识别变化点；
5. 如果可能的话，还可以加入颜色编码来区分不同的操作类型或者强调特定区域的重要性。

graph TB;
    subgraph "First Swin Transformer Block"
        A[LN] --> B[W-MSA];
        C[DropPath] --> D[Add & Norm];
        E[LN] --> F[MLP];
        G[DropPath] --> H[Add & Norm];
    end
    
    subgraph "Second Swin Transformer Block with Shift Windows"
        I[LN] --> J[SW-MSA]; % Note the shift here
        K[DropPath] --> L[Add & Norm];
        M[LN] --> N[MLP];
        O[DropPath] --> P[Add & Norm];
    end
    
    Q[H/4 × W/4 Tokens Input] -.-> A;
    H --> I; % Transition between blocks

此Mermaid图表仅提供了一个简化版本的概念框架，实际绘图可以根据需求调整样式和复杂度。