改善线性回归模型的病态：追加数据与条件数优化

"这篇硕士论文主要探讨了线性回归模型中的条件数问题，以及如何通过追加数据来改善条件数，以解决复共线性问题。作者刘建国在重庆大学攻读应用数学硕士学位，导师为杨大地教授。" 在线性回归模型中，条件数是一个关键的统计指标，它衡量设计矩阵X的逆矩阵的稳定性。当条件数较大时，模型可能会受到复共线性（多重共线性）的影响，导致估计参数的不稳定性。复共线性是指解释变量之间存在高度相关性，这会使估计的参数变得难以解析，增加预测误差，并可能导致回归分析的结果不可靠。 论文指出，通过中心化和标准化数据可以降低条件数，但这种做法并不总是足以消除复共线性。为了解决这个问题，作者提出了追加数据的方法。在合适的情况下，增加额外的观测数据可以改进设计矩阵的结构，从而减小其条件数。追加的数据应与现有数据相关但又不完全重复，以确保信息的增加而不只是噪声的引入。 论文还提到了条件指数作为另一种衡量共线性的指标，它能够定量表示每个解释变量在矩阵X中的共线性程度。如果一个变量的条件指数远大于1，就表示该变量与其他变量高度相关，可能引起复共线性问题。 此外，论文中还讨论了在特定情况下，如何通过增加数据组来改善矩阵的条件数。通过增加k组数据，可以改变设计矩阵的特征值分布，进而优化条件数。如果新添加的数据能够提供新的信息，那么这将有助于改善模型的稳定性。 在理论分析和数值实验的基础上，作者提出了实用的策略来改善病态问题，特别是在线性回归和多项式回归中。这些方法旨在提高模型的计算效率和预测准确性，以应对由于数据摄动、观测误差或计算限制引起的复共线性挑战。 这篇论文深入研究了线性模型中的奇异性、病态现象以及如何通过增加数据来改善模型性能。它对于理解和处理大数据环境下的复共线性问题具有重要的实践意义，尤其是在统计学和数据分析领域。