transformer cv

Transformer是一种基于自注意力机制的神经网络结构，最初被用于自然语言处理任务中，但近年来也被广泛应用于计算机视觉领域。在计算机视觉中，Transformer可以用于图像分类、目标检测、图像分割等任务。其中，Vision Transformer（ViT）是一种只使用Transformer结构的图像分类模型，它将图像分成小块，并将这些小块的线性嵌入序列作为Transformer的输入。相比于传统的卷积神经网络，ViT在一些数据集上表现更好，同时减少了训练计算资源。但是，ViT需要大量的数据进行预训练，因为它没有卷积神经网络固有的一些先验，如平移不变性和局部性。