GMRES算法的具体步骤

GMRES (广义最小残差法) 是一种用于求解大规模线性系统Ax = b的迭代方法，特别适合处理稀疏矩阵。以下是GMRES算法的一般步骤：

1. **初始化**：
- 初始化向量r_0 = b - A * x_0，其中x_0是初始猜测解，通常选择零向量。
- 选择第一个Krylov子空间的基向量，通常是r_0本身。

2. **构建Krylov子空间**：
- 对于i=1到k（迭代次数），计算新的向量v_i，它是r_{i-1}除以其当前的欧几里得范数后的结果，即v_i = r_{i-1} / ||r_{i-1}||_2。
- 然后更新r_i = Ar_{i-1} - α_i*v_i，α_i是使得r_i与v_i正交的标量。

3. **找到最佳逼近解**：
- 解决内层循环的问题：寻找最小2-norm的向量ωi ∈ span{v1, ..., vi}，使得||Ar_i - ωi||_2 最小。这通过QR分解（将vi作为列向量组成矩阵Q，对R进行简化）来近似得到。

4. **更新解**：
- 更新下一个近似的解x_i = x_{i-1} + β_iv_i，其中β_i是α_i和上一步中找到的因子之间的比例。

5. **终止条件**：
- 当达到预设的最大迭代次数、残差足够小（如||r_i|| < ε*||b||）或者误差降低不大时停止。