在什么时候开始在图像处理中使用的

Transformer最初是用于自然语言处理领域，但它的注意力机制也被应用于图像处理任务，例如图像分类、目标检测和图像生成等。在图像领域中，最早使用注意力机制的模型是Squeeze-and-Excitation Network (SENet)，该模型使用通道注意力机制来提高图像分类性能。后来，Self-Attention Generative Adversarial Networks (SAGAN)进一步扩展了注意力机制的应用，用于图像生成任务。最近，Vision Transformer (ViT)模型的出现，将Transformer成功地应用于图像分类任务，取得了很好的效果。因此，可以说Transformer在图像处理中的应用是近年来才开始的。