Transformer即插即用

Transformer即插即用是指一种模块化的方法，将Transformer结构应用于神经网络的前一层，以挖掘样本之间的关系。在BatchFormer中，Transformer模块被插入到分类器前一层，沿着batch维度操作整个批次，而不是空间维度。此外，BatchFormer还引入了共享分类器的策略，使得在测试时可以移除BatchFormer，而网络不会增加计算和内存负载。BatchFormerV2是BatchFormer的更一般化版本，可以应用于不同的任务和数据集，并在多个领域取得了良好的效果。 这种即插即用的方法为特征表示学习和模型架构的探索提供了一种有效的方式。<span class="em">1</span><span class="em">2</span><span class="em">3</span>
#### 引用[.reference_title]
- *1* *2* [BatchFormer: 一种简单有效、即插即用的探索样本关系通用模块 (CVPR2022)](https://blog.csdn.net/zandaoguang/article/details/127330200)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"]
- *3* [MaxViT:多轴视觉Transformer](https://download.csdn.net/download/weixin_44911037/86823798)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"]
[ .reference_list ]