transformer架构很垃圾

Transformer架构是一种非常成功的神经网络架构，被广泛应用于自然语言处理领域，尤其是机器翻译任务。Transformer架构的提出，使得在不使用循环神经网络(RNN)的情况下，可以实现对输入序列进行有效的建模和处理，同时还可以并行计算，加速训练和推断。

Transformer架构中，使用了注意力机制来实现对输入序列的建模和处理，相对于传统的循环神经网络，具有更好的并行性和更高的灵活性。Transformer架构的许多突破性工作，比如BERT、GPT等，都取得了非常显著的成果，极大地推动了自然语言处理领域的发展。

因此，从实践效果来看，Transformer架构绝对不是“垃圾”的。当然，任何架构都有其适用场景和限制，需要根据具体任务和数据集来选择合适的架构。