Transformer的解码器单元为什么叫解码器
时间: 2023-10-14 10:35:40 浏览: 76
Transformer同样基于编码器-解码器架构
Transformer的解码器主要用于生成目标序列,即将编码器的输出转化成目标序列。因此,它被称为“解码器”。在神经机器翻译等任务中,解码器的输入是编码器的输出和目标序列的前一个词,输出是目标序列的下一个词。解码器通过对编码器的输出和目标序列的前一个词进行注意力机制,从而生成下一个词。因此,Transformer中的解码器单元被称为解码器。
阅读全文