informer与Transformer的区别与联系

Informer是一种基于Transformer的模型，用于时间序列预测任务。它在Transformer的基础上进行了改进，以提高计算、内存和体系结构的效率，并保持较高的预测能力。

区别：
1. 输入形式：Transformer模型的输入是固定长度的序列，而Informer模型的输入可以是变长的序列，适用于更广泛的时间序列预测任务。
2. 编码器-解码器结构：Transformer模型采用编码器-解码器结构，而Informer模型采用了多层的自回归结构，可以更好地捕捉时间序列中的长期依赖关系。
3. 自注意力机制：Transformer模型使用自注意力机制来建模序列中的依赖关系，而Informer模型引入了一种新的全局注意力机制，可以更好地处理长序列的建模问题。

联系：
1. 基于Transformer：Informer模型是在Transformer模型的基础上进行改进的，因此两者都使用了Transformer的核心思想和机制，如多头注意力机制和位置编码。
2. 时间序列预测：Transformer模型和Informer模型都可以用于时间序列预测任务，但Informer模型在处理长序列和变长序列时具有更好的性能和效率。