Seq2Seq的缺点及加入注意力机制改进的意义

Seq2Seq 的缺点之一是它在处理长度较长的序列时会出现记忆不足的问题。加入注意力机制可以解决这个问题，因为它能够让模型在生成长度较长的序列时，根据当前生成的部分和原始序列之间的相似性来动态地调整对原始序列的关注度，从而更好地处理长度较长的序列。