transformer代码时间序列预测

鉴于您提供的引用内容，我可以给出以下答案：

引用中提供了一个使用经过 500 轮训练的模型预测预测窗口为 50 的未见序列的代码和参考资料。这个代码的GitHub链接是：https://github.com/nklingen/Transformer-Time-Series-Forecasting，参考资料链接是：https://medium.com/mlearning-ai/transformer-implementation-for-time-series-forecasting-a9db2db5c820。

引用中提到了一个 Transformer-decoder 架构用于预测湿度时间序列数据集。该项目是先前项目的后续项目，在同一数据集上使用 LSTM 实现。但由于 LSTM 在长序列上存在“短期记忆”问题，所以采用了 Transformer 来取代 LSTM，并在同一数据集上取得了更好的效果。

引用中提到了没有阈值的预定采样器会在模型的序列开头表现不佳。为了解决这个问题，可以在计划的采样器上设置一个阈值，在启动之前使用真实值来进行训练，确保在足够的输入数据之前，模型不会因预测不佳而受到惩罚。

综上所述，以上引用内容提供了有关使用 Transformer 模型进行时间序列预测的代码和相关信息。<span class="em">1</span><span class="em">2</span><span class="em">3</span>
#### 引用[.reference_title]
- *1* *2* *3* [Transformer时间序列预测](https://blog.csdn.net/weixin_39559994/article/details/128045584)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}}] [.reference_item style="max-width: 100%"]
[ .reference_list ]