CNN相较于transformer的缺点

相较于Transformer，CNN的主要缺点在于缺乏全局信息的感知能力。因为CNN在卷积过程中只能感知局部的信息，无法直接获取全局的信息，这可能会导致在处理一些需要整体信息的任务时表现不佳。此外，CNN对于输入序列的长度也比较敏感，需要对输入序列进行截断或者padding，这可能会影响模型的性能。另外，CNN在处理序列数据时，也可能会产生“位置偏差”的问题，即对于不同位置的输入，卷积核的响应可能会有所不同，这可能会影响模型的泛化能力。