swin transformer 加模块

Swin Transformer网络结构中的一个模块是Patch Merging块。这个模块的作用是在下采样的过程中防止信息的丢失。和yolov4的Focus模块相似，Patch Merging块也有相同的目的。但是它们的代码和图示有一定的区别，并且使用的归一化函数也不同。在yolov5中，FOCUS模块被实现为一个Patch类，其中包括LayerNorm和Linear层。输入的格式为B，L，C，其中B是批量大小，L是特征图的大小，C是通道数。在Patch类的forward方法中，首先进行输入大小的判断，然后进行特征块的提取和拼接操作，并最终通过LayerNorm和Linear层对特征进行处理。所以，Swin Transformer中的Patch Merging块是模仿yolov5中的FOCUS模块的设计思路来实现的。<span class="em">1</span><span class="em">2</span><span class="em">3</span>
#### 引用[.reference_title]
- *1* *2* *3* [Swin_transformer的Patch Merging块和YOLO的FCOUS模块](https://blog.csdn.net/weixin_44911037/article/details/123033040)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 100%"]
[ .reference_list ]