informer解读
时间: 2023-08-05 22:08:20 浏览: 223
Informer是一种时序预测模型,它通过自注意力机制来捕捉时间序列数据中的长期依赖关系。根据引用\[1\]中的资料,Informer模型的设计灵感来自于Transformer模型,并对其进行了改进。Informer模型的关键创新点包括使用了多层自注意力机制和J-stacking层中以操作主导注意的self-attention提取方法。
根据引用\[2\]和引用\[3\]的内容,Informer模型在度量方法的建立方面采用了KL散度公式,并通过推导定义出稀疏性度量。为了减小自注意力机制的空间复杂度,Informer模型采用了近视稀疏性度量,将复杂度从O(L^2)减小至O(LlnL),其中L表示序列的长度。
总之,Informer是一种基于自注意力机制的时序预测模型,通过改进Transformer模型并引入稀疏性度量和近视稀疏性度量的方法,实现了对长期依赖关系的建模,并在空间复杂度上进行了优化。
#### 引用[.reference_title]
- *1* *2* [Informer讲解PPT介绍【超详细】--AAAI 2021最佳论文:比Transformer更有效的长时间序列预测](https://blog.csdn.net/weixin_44790306/article/details/125154852)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insert_down1,239^v3^insert_chatgpt"}} ] [.reference_item]
- *3* [解读:Informer——比Transformer更有效的长时间序列预测方法](https://blog.csdn.net/FrankieHello/article/details/113830278)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insert_down1,239^v3^insert_chatgpt"}} ] [.reference_item]
[ .reference_list ]
阅读全文