视觉transformer发展史
时间: 2023-08-28 07:05:52 浏览: 75
自Vision Transformer(ViT)在2020年推出以来,计算机视觉的研究重点逐渐转向了Transformer模型。ViT在图像分类任务上取得了先进的结果,但在视觉下游任务,如对象检测和分割方面的表现相对较差。然而,随着Swin Transformers的引入,Vision Transformer也开始在视觉下游任务中发挥作用。
除了ViT和Swin Transformers,还有其他的Transformer模型在计算机视觉领域得到了广泛的研究和应用。其中,有关Transformer的综述文章提供了对Transformer发展历程、基本结构和原理的详细介绍和学习笔记。这些学习笔记涵盖了高效Transformer、计算机视觉的自注意力以及Transformer的总结和展望等主题。
综上所述,视觉Transformer在计算机视觉领域的发展经历了从ViT到Swin Transformers的转变,并且还有其他Transformer模型得到了广泛的关注和研究。<span class="em">1</span><span class="em">2</span><span class="em">3</span>
#### 引用[.reference_title]
- *1* [从感知机到Transformer:一文概述深度学习发展史!](https://blog.csdn.net/Charmve/article/details/125214268)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT0_1"}}] [.reference_item style="max-width: 50%"]
- *2* *3* [阅读学习笔记(二)-- transformer在计算机视觉领域的发展和应用](https://blog.csdn.net/sazass/article/details/123398441)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT0_1"}}] [.reference_item style="max-width: 50%"]
[ .reference_list ]