非线性系统辨识：前向与后向最小角度回归算法

"这篇研究论文探讨了在非线性系统辨识中应用前向和后向最小角度回归算法。文章提出了一种结合前向选择和后向精炼的最小角度回归（LAR）策略，旨在改进原始前向LAR算法的模型稀疏性和泛化性能。关键词包括：最小角度回归、前向选择、后向精炼和非线性系统辨识。" 正文: 在非线性系统辨识领域，构建准确且简洁的模型至关重要。传统的线性系统辨识方法在处理非线性系统时可能会遇到困难，因为非线性系统的动态行为难以用简单的线性关系来描述。为此，研究人员提出了非线性自回归模型与外因输入（NARX）模型，这是一种广泛使用的工具，能有效描述各种非线性动态系统。 最小角度回归（LAR）算法是线性模型选择的一种方法，通过逐步增加或减少变量，寻找使残差平方和最小化的最佳子集。然而，在非线性系统中，单纯依赖前向选择可能会导致模型过于复杂，泛化能力不足。论文中，作者Long Zhang和Kang Li提出了一种新的前向和后向LAR算法，旨在解决这个问题。 新算法首先采用前向选择策略，从一组候选变量中逐步选择具有最大相关性的变量加入模型，以构建初步的NARX模型。然而，这种单纯向前的策略可能会导致不重要的变量被包含在模型中，影响模型的稀疏性和准确性。因此，接下来引入后向精炼阶段，对已选变量进行评估，移除那些对模型贡献较小的不显著模式，从而提高模型的简洁性。 后向精炼阶段的关键在于如何确定哪些变量应该被剔除。通过执行后向LAR，算法会计算每个保留变量的去除对模型性能的影响，如果某个变量的去除对残差平方和的影响微乎其微，那么它就被认为是不重要的，应当被替换。这一过程持续进行，直到模型达到一个满意的稀疏性水平，同时保持良好的预测性能。 通过这种方式，新提出的前向和后向LAR算法结合了变量选择和剔除的过程，旨在找到既具有高解释力又具有良好泛化能力的非线性模型。实验结果和分析表明，这种方法在非线性系统辨识中的表现优于仅使用前向LAR，提高了模型的实用价值。 该研究为非线性系统辨识提供了一种新的优化方法，有助于在复杂系统建模中实现更高效、更精确的模型构建。对于控制理论、信号处理和机器学习等领域，这样的进展将推动非线性系统理解的进一步深化，并可能催生更多创新的解决方案。