改进的BFGS算法与Newton-CG算法在数值优化中的应用

"基于Newton法改进的BFGS迭代算法与Newton-CG算法，侯麟，尚晓吉，刘礼昱，杨莹。该研究关注数值分析中的数值优化和非线性方程组求解，探讨两者之间的关系，并提出算法改进方法。" 在数值分析领域，数值优化和非线性方程组求解是两个核心问题。这两者紧密关联，因为很多实际问题的解决方案往往涉及寻找使某个目标函数达到极值的变量值，这便是数值优化的目标。而非线性方程组则是许多复杂问题的自然表示形式，它们的解通常对应着优化问题的临界点。 BFGS（Broyden-Fletcher-Goldfarb-Shanno）法是一种广泛使用的拟牛顿法，用于无约束优化问题。它通过近似Hessian矩阵（目标函数的二阶导数矩阵）来迭代更新搜索方向，从而逼近最优解。在本文中，作者对BFGS法的迭代公式进行了改进，可能涉及到提高算法的收敛速度、减少计算复杂度或者增强其鲁棒性，以适应更广泛的优化问题。 Newton-CG（Newton-Conjugate Gradient）算法是结合了牛顿法和共轭梯度法的一种方法，用于求解非线性方程组。牛顿法通过迭代求解Hessian矩阵的逆乘以残差来逼近解，但计算Hessian矩阵的逆可能非常昂贵，特别是在高维情况下。因此，Newton-CG算法采用了共轭梯度法来近似求解Hessian矩阵的逆，降低了计算成本，同时保持了较好的收敛性质。 文章的贡献在于提出了一种改进的Newton-CG算法，可能通过引入预条件器、优化迭代步骤或调整共轭梯度法的终止条件，以改善算法的性能。这种改进可能使得算法在处理大型非线性方程组时更加高效，特别是在解决那些Hessian矩阵近似对角化或结构简单的问题时。 关键词中的“Numerical Optimization”强调了研究的优化理论基础，“Nonlinear Equations”则表明了研究的焦点，而“Newton-CG Method”是本文提出的主要算法工具。通过这些方法，作者旨在提供更有效、更实用的工具来解决实际问题中的优化和非线性方程组求解任务。 这篇论文深入研究了数值优化与非线性方程组求解的理论与实践，通过对BFGS和Newton-CG算法的改进，为解决实际问题提供了新的思路和算法，具有较高的学术价值和应用潜力。