视觉注意力机制VIT

视觉注意力机制VIT（Vision Transformer）是一种在计算机视觉领域中使用的自注意力机制的变体。它的主要思想是将二维图像分成固定大小的patch，并通过线性变换得到一维的patch embedding。然后，在每个patch embedding的头部附上类别标记，并与位置向量相加，得到最终的embedding向量作为Transformer的输入，进行训练和预测。类别标记用于预测分类，位置向量用于表征图像中各patch的位置信息。VIT的模型架构可以参考相关文献中的图示。\[2\]

VIT的核心步骤包括将图像分成patch、线性变换得到patch embedding、添加类别标记和位置向量、以及使用Transformer进行训练和预测。这种注意力机制的使用可以提高图像说明生成过程的可解释性，允许用户了解模型关注的内容和位置，并提高网络的表示能力。\[1\]\[3\]
#### 引用[.reference_title]
- *1* *3* [2021综述：计算机视觉中的注意力机制(续二）：空间注意力](https://blog.csdn.net/wl1780852311/article/details/124525739)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v4^insert_chatgpt"}} ] [.reference_item]
- *2* [注意力机制、Transformer及VIT](https://blog.csdn.net/weixin_42195204/article/details/123872753)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v4^insert_chatgpt"}} ] [.reference_item]
[ .reference_list ]