transformer相较于cnn的缺点

相对于CNN，Transformer的一个缺点是计算量较大，因为它需要对所有输入序列中的位置进行self-attention计算。这使得Transformer在处理长序列时可能会变得非常缓慢和昂贵。另一个缺点是Transformer可能对输入序列中的局部模式感知能力不强，因为它没有像CNN那样的局部卷积操作。这可能导致Transformer在某些视觉和语音任务中表现不如CNN。