在线超限学习机:广义正则化与遗忘机制增强非平稳预测

2 下载量 118 浏览量 更新于2024-08-27 1 收藏 483KB PDF 举报
"具有广义正则化与遗忘机制的在线贯序超限学习机" 本文主要探讨了非平稳时间序列预测的问题,提出了一个创新性的算法——具有广义正则化与遗忘机制的在线贯序超限学习机(Online Sequential Extreme Learning Machine, OSELM)。时间序列预测在诸多领域如金融、气象学、电力系统等都有广泛应用,而针对非平稳时间序列,传统的预测方法往往难以捕捉其动态变化特性。 在线学习是一种适应数据流不断更新的学习方式,OSELM正是采用了这种方式,通过增量学习新样本来不断调整模型参数。这种学习机制使得算法能够及时响应环境或数据流的变化,提高了对非平稳系统的动态跟踪能力。遗忘机制是算法的另一大特点,它允许算法“忘记”那些已经失效或者不再相关的旧样本,从而避免了过拟合,增强了模型的泛化能力。 广义正则化是OSELM的另一个核心概念。正则化是防止模型过拟合的有效手段,它通过在损失函数中添加正则项来限制模型复杂度。在OSELM中,引入了一种新的广义l2正则化,这不仅保持了正则化的优点,还使得算法能够持续保持稳定性,即使在面对非平稳数据时也能保持良好的预测性能。 仿真实验部分,作者对比了OSELM与其他同类算法的表现,结果显示,OSELM在稳定性上表现出色,预测误差更小,特别适合处理具有动态变化特性的非平稳时间序列。实验结果进一步验证了算法的有效性和适用性。 总结来说,这项研究结合了在线学习、遗忘机制和广义正则化,提出了一种针对非平稳时间序列预测的高效方法。通过遗忘旧样本和应用广义正则化,OSELM能够在不断变化的数据环境中保持高精度和稳定性,对于实时预测和决策支持具有重要的理论和实践意义。该算法为解决实际问题提供了一种强有力的工具,并为未来相关领域的研究提供了新的思路。