小波支持向量机在回归估计中的鲁棒方法

"回归函数的小波支持向量机鲁棒估计法 (2006年) - 张晓光, 张兴敢, 吴行标, 耿道华" 回归函数的小波支持向量机鲁棒估计法是一种针对回归估计问题的先进方法，它结合了小波分析的多尺度特性与支持向量机(SVM)的高效学习能力，旨在处理数据集中存在粗差或异常值的情况。小波网络通常用于回归估计，因其具备小波变换的局部化特性和神经网络的自适应学习能力，然而，当样本中存在粗差时，其性能会显著下降。 传统的M-估计方法通过考虑残差的绝对值来处理异常值，但选择合适的初始参数始终是一大挑战。为此，研究人员提出了小波支持向量机（WSVM），这是一种新的回归模型，用于确定初始参数值。WSVM利用支持向量机的核心思想，寻找最优超平面以分割数据，同时确保包含粗差的样本点的残差绝对值较大，从而提高模型对异常值的鲁棒性。 在WSVM的基础上，该方法进一步引入了一种M-估计作为目标函数，这是一种统计学中的鲁棒估计技术，可以有效降低异常值对估计结果的影响。通过构造特定的M-估计，该方法能够自适应地确定阈值，以识别和处理离群点。这一过程增强了模型在面对噪声和异常值时的稳定性和泛化性能。 在实际应用中，小波支持向量回归(WSVR)模型通过结合小波的多尺度分析和SVM的非线性建模能力，能够构建出既具有多尺度逼近特性，又具有良好鲁棒性的回归模型。仿真结果验证了WSVR方法的有效性，它在处理含有粗差的数据集时，能够提供更准确、更稳健的回归结果，具有较高的理论价值和实际应用潜力。 该研究的关键词包括：支持向量机、容许支持向量核、离群点、M-估计以及回归函数，这些是理解本文核心内容的关键概念。中图分类号为TP18，表明这属于计算机科学技术领域，特别是机器学习和模式识别方面的研究。 这篇2006年的论文提出了一个创新的解决方案，即小波支持向量机鲁棒估计法，它为回归分析中的异常值处理提供了一个强大而有效的工具，特别是在自然科学和工程领域，对于处理复杂数据集和应对不确定性具有重要意义。