informer模型什么时候提出的

Informer模型是在2020年提出的。它是一种用于时间序列预测的模型，具有自适应的全局性和局部性注意力机制，能够有效地捕捉输入序列中的长期和短期依赖关系。Informer模型的提出，为时间序列预测领域带来了新的思路和方法，取得了很好的预测效果。

在Informer模型提出之前，传统的时间序列预测模型通常只能局限于捕捉相对短期的依赖关系，难以处理长期和短期交叉的复杂时间序列数据。而Informer模型通过引入全局性和局部性注意力机制，能够自适应地调整对不同时间尺度的关注，从而更好地建模时间序列数据的长期和短期依赖关系。

除此之外，Informer模型还采用了一种不定长的时间序列输入方式，能够自适应地处理不同长度的时间序列数据，使得模型在处理实际数据时更加灵活高效。因此，Informer模型的提出对于时间序列预测领域具有重要的意义，为如何更好地理解和分析时间序列数据提供了新的角度和方法。

相关问题

transformer模型和informer模型介绍，超级详细一点

Transformer模型和Informer模型都是当前在NLP和时间序列预测领域非常流行的模型。下面是它们的详细介绍：

Transformer模型：
Transformer模型是一种基于自注意力机制的神经网络模型，由Google在2017年提出，用于解决NLP中的序列到序列（seq2seq）问题。相比于传统的RNN和LSTM等模型，Transformer模型不需要考虑序列的顺序，可以并行计算，因此训练速度更快，效果更好。Transformer模型主要由编码器和解码器两部分组成，其中编码器和解码器都由多个注意力层和前馈神经网络层组成。在编码器中，每个注意力层都会对输入序列进行自注意力计算，得到每个位置的表示；在解码器中，每个注意力层会对编码器的输出和解码器的输入进行注意力计算，得到每个位置的表示。Transformer模型在NLP中的应用非常广泛，如机器翻译、文本分类、文本生成等。

Informer模型：
Informer模型是一种基于Transformer模型的时间序列预测模型，由腾讯AI Lab在2020年提出。相比于传统的时间序列预测模型，如ARIMA、LSTM等，Informer模型可以处理更长的时间序列，且具有更好的预测效果。Informer模型主要由编码器、解码器和逆向解码器三部分组成，其中编码器和解码器都由多个ProbSparse Self-Attention层和前馈神经网络层组成，逆向解码器则由多个ProbSparse Self-Attention层和反卷积层组成。Informer模型中的ProbSparse Self-Attention层是一种新的注意力层，可以减少模型参数的同时提高模型的效果。Informer模型在时间序列预测领域中的应用非常广泛，如交通流量预测、电力负荷预测等。

informer, informerstack, informer-light(TBD) 三种模型有什么区别

这三种模型都是基于Transformer架构的，但是它们在模型结构和训练方式上略有不同。

Informer是最早提出的模型，它在Transformer的基础上进行了一些改进，如引入了自适应长度的机制，可以适应不同的时间序列长度。此外，它还引入了一些新的注意力机制，如相对位置编码、跨时间步的注意力等。

InformerStack是在Informer的基础上进一步改进的，在多层Transformer的基础上引入了跨层的全局注意力机制，可以更好地捕捉序列中的全局依赖关系。此外，它还采用了温度控制的Dropout机制，可以更好地防止过拟合。

Informer-Light是目前还在开发中的模型，它的目标是在保持较高预测精度的同时，降低模型的计算复杂度和模型大小。具体的改进方式还没有公布，所以目前还无法对其与前两者的区别进行详细的比较。