t ransformer是什么时候出的
时间: 2024-04-09 19:29:41 浏览: 77
文献-《Temporal-Spectralin Spike-LFPT...ransformer Networks》
Transformer是在2017年由Google的研究人员提出,他们的论文Attention is All You Need中首次引入了Transformer模型。这个模型引发了自然语言处理领的革命,它利了自注意力机(self-attention)来捕捉输入序列中的相关信息,取代了传统的循环神经网络(RNN)和卷积神经网络(CNN)模型。Transformer在机器翻译等任务上取得了非常优秀的表现,并被广泛应用于各种自然语言处理任务中。
阅读全文