transformer有没有卷积
时间: 2023-12-14 17:34:39 浏览: 125
基于Transformer和CNN卷积神经网络的网络入侵检测python源码+数据集+详细注释.zip
根据提供的引用内容,可以得知有一种名为Conv2Former的模型,它是一种具有Transformer风格的卷积网络视觉基线模型。该模型使用了卷积调制模块来建立关系,这比注意力机制在处理高分辨率图像时更高效。最终的模型只使用了卷积和Hadamard积,简化了注意力机制。因此,可以得出结论:Transformer中可以使用卷积。
阅读全文