改进BFGS算法在非凸函数极小化问题中的收敛性分析

"这篇论文是2009年发表在《青海师范大学学报(自然科学版)》第二期的自然科学论文，作者周俊，探讨了一类针对无约束最优化问题的改进BFGS算法的全局收敛性，特别是在Wolfe搜索条件下的表现。论文指出，尽管BFGS算法在凸函数问题中已有很好的收敛性理论支持，但在非凸函数情况下，其收敛性分析较为复杂。作者提出了新的改进策略，并通过数值试验验证了新算法的有效性。" 在无约束最优化问题中，寻找函数f(x)的最小值是一个基础且重要的任务，其中f(x)是在实数空间R^n中的二阶连续可微函数。BFGS（Broyden-Fletcher-Goldfarb-Shanno）算法是一种广泛应用的优化方法，以其高效和稳定性著称。算法从一个初始点x_0和正定矩阵B_0开始，通过迭代更新搜索方向和步长来逼近函数的最小值。 BFGS算法的核心在于矩阵B_k的迭代更新，它近似于Hessian矩阵H(x)，即目标函数的二阶导数矩阵。在每一步迭代中，算法会根据梯度变化y_k=g_k+1-g_k和搜索方向变化s_k=x_{k+1}-x_k来更新B_k，这通常被称为BFGS更新公式。Wolfe搜索条件是一种常用的线搜索策略，它结合了 Armijo 减缩步长规则和Curvature条件，以确保算法的稳定收敛。 然而，当目标函数是非凸的，BFGS算法的收敛性分析变得复杂。传统上，对于凸函数，BFGS算法已被证明具有全局收敛性和可能的超线性收敛性。但非凸函数情况下的收敛性并未得到充分保证。Byrd等人对于精确线搜索的情况做了部分分析，但非精确线搜索（如Wolfe条件）下BFGS算法的收敛性在非凸函数场景中仍然是一个挑战。 周俊的论文对此进行了探索，提出了一类改进的BFGS算法，旨在解决非凸函数极小化问题时的收敛性问题。通过数值试验，作者证明了新算法在Wolfe搜索条件下也能保持良好的全局收敛性。这一工作对于理解和应用BFGS算法在非凸优化问题上的性能具有重要意义，为实际问题的求解提供了理论支持。 这篇论文贡献了一种新的改进策略，扩展了BFGS算法的适用范围，尤其是在处理非凸优化问题时的收敛性保证，这对于优化算法的研究和实践都有积极的促进作用。