restormer中transformer

在Restormer中，Transformer是应用在高分辨率图像恢复任务中的一种方法。这篇文章提出了一种名为Restormer的高效Transformer模型，用于高分辨率图像的恢复。

虽然这是一篇Transformer的文章，但是Restormer与传统的Transformer在通道之间的注意力和传统的Transformer之间没有太多联系。文章指出，尽管之前的研究已经讨论了Transformer如何建立长距离的像素交互作用，但网络设计仍然没有充分利用Transformer的全局像素依赖属性。因此，对于低层次任务来说，是否真的有必要使用长距离像素交互仍然是一个疑问。文章中提到，即使简单的堆叠3x3的空间像素层上的卷积也能取得很好的效果，因此对于低层次的任务是否需要长距离像素交互还需要进一步研究和探讨。 <span class="em">1</span><span class="em">2</span><span class="em">3</span>
#### 引用[.reference_title]
- *1* [Restormer Efficient Transformer for High-Resolution Image Restoration](https://blog.csdn.net/qq_36693723/article/details/130631879)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"]
- *2* *3* [论文阅读 | Restormer: Efficient Transformer for High-Resolution Image Restoration](https://blog.csdn.net/bettii/article/details/129006581)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"]
[ .reference_list ]