矩阵求逆引理与LMS/RLS算法在Kalman滤波中的应用——清华大学案例

矩阵求逆引理在卡尔曼自适应滤波算法，特别是LMS（Least Mean Squares）算法和RLS（Recursive Least Squares）算法中扮演了关键角色。这两种算法通常用于处理线性系统中的动态估计问题，如状态空间模型中的状态估计和参数更新。在卡尔曼滤波中，状态向量（x）、观测数据向量（y）、状态转移矩阵（F）、观测矩阵（C）、过程噪声（v）和观测噪声（w）是核心概念。 状态空间模型由状态方程（描述状态随时间变化的规律）和观测方程（描述测量与状态的关系）组成。在一步预报问题中，我们通常需要解决以下三个任务： 1. **滤波（Filtering）**：给定含噪观测数据（y），通过卡尔曼滤波计算无噪声状态估计（ˆx）。滤波器利用状态转移矩阵和观测矩阵来更新状态估计，并结合过程噪声和观测噪声的信息。 2. **平滑（Smoothing）**：已知完整的历史观测序列，求解更精确的状态估计，即对过去的观测进行反推以得到更准确的状态估计。 3. **预测（Prediction）**：仅依赖当前状态和模型信息，预测下一时刻的状态或输出。 新息（innovation）是这些算法的关键概念，它表示观测数据与预测之间的差异，用符号y - Hˆy表示，其中H是观测矩阵。新息方法的核心在于如何有效地利用新息来调整系统的估计。新息具有以下特性： - **性质1：正交性**（性质1）意味着新息与噪声是正交的，即H^TE_nα_y = 0，这里的E_n是噪声协方差矩阵，表明新息与噪声不相关。 - **性质2：白噪声特性**（性质2）指出新息α_y是一个独立同分布（i.i.d.）的白噪声过程，这意味着它在各个时刻的方差相同且相互独立。 - **性质3：信息保持**（性质3）强调新息保留了观测到的数据与模型预测之间的全部信息，对于估计优化至关重要。 在LMS和RLS算法中，矩阵求逆引理主要用于更新规则的设计，如RLS中的最小均方误差准则，通过迭代地调整滤波器系数，使得预测误差减小。矩阵求逆在求解滤波器的递推公式中起着核心作用，如卡尔曼滤波的递推关系式中会涉及到状态转移矩阵F的逆或其部分逆。然而，在实际应用中，由于可能存在的矩阵秩不足或逆矩阵不稳定等问题，矩阵求逆可能需要通过特殊情况处理或使用近似方法。 矩阵求逆引理是卡尔曼自适应滤波算法中的核心数学工具，它在估计精度、稳定性以及算法效率上都有着深远影响。理解和掌握这个引理是掌握这些高级滤波技术的关键。