对角三阶拟牛顿法：大规模无约束优化的高效算法

本文主要探讨了"基于三阶拟牛顿方程的对角三阶拟牛顿法"这一主题，发表在2012年太原科技大学学报第33卷第1期。该研究由冯茹茹和王希云合作完成，他们针对大规模无约束优化问题提出了一个新的算法。传统的拟牛顿方法通常依赖于Hessen矩阵的逆，这在处理大规模问题时会带来较高的存储和计算需求，因为Hessen矩阵的逆存储量至少为O(n^2)。 论文的核心创新在于，作者引入了Zhang H．C.的非单调线搜索规则，结合三阶拟牛顿方程，设计了一种对角三阶拟牛顿算法。这种算法通过使用对角矩阵来逼近Hessen矩阵的逆，显著减少了存储量和计算复杂度，使之更适合处理稀疏问题，存储量降低到了O(n)。这在优化算法的实际应用中具有重要的意义，因为它能有效降低算法的复杂性和资源消耗。 作者们证明了该算法不仅具有全局收敛性，还展示了超线性收敛性，这意味着随着迭代的进行，算法收敛速度会比线性更快，对于优化问题的求解效率有显著提升。此外，论文还提到了元约束优化问题的一般形式，即最小化一个二次连续可微函数，同时满足一定的梯度和Hessian矩阵关系。 值得注意的是，研究得到了山西省自然科学基金的支持（2008011013），并且参考了Barzilai和Borwein在1988年提出的两点步长法，这是一种早期的尝试以减少存储成本的方法，但本文的对角稀疏拟牛顿算法在此基础上更进一步。 这篇论文为无约束优化问题的求解提供了一个高效、存储量低的解决方案，对于从事优化理论与应用研究的学者以及工程实践中的大规模优化问题具有实际价值。冯茹茹作为硕士研究生，她的研究方向正好与这篇论文紧密相关，表明她在优化理论方面有着扎实的背景。