大数据背景下非线性共轭梯度法的全局收敛性研究

本篇硕士学位论文深入探讨了大数据背景下非线性共轭梯度法的全局收敛性研究。论文共分为三大部分，通过四个章节展开讨论。 第一部分，第一章概述了非线性共轭梯度法的基本概念，包括其在优化问题中的应用以及当前研究的背景和意义。重点介绍了作者的新研究成果，即在一种新的线搜索策略下，采用Dai和Yuan的重开始准则，对三项共轭梯度法进行了改进。这个改进的关键在于假设函数在水平集上的下界以及函数在局部区域的Lipschitz连续性和导数的约束，从而确保了该方法在满足这些条件时具有全局收敛性，这不仅推广了经典的共轭梯度法和Beale-Powell重开始算法，也为高效算法设计提供了理论基础。 第二部分，第三章聚焦于一类特殊的共轭梯度法，其步长因子由Grrippo-Lucidi线搜索确定，这种方法采用取值特定的共轭方向，即pnew计算方式。作者证明了在这种设置下，这类共轭梯度法也具有全局收敛性，并通过数值实验验证了其优良的数值性能，与经典的P-P方法相当，适用于大规模优化问题。 最后，第三部分是论文的核心，第四章专门研究了非单调共轭梯度法的全局收敛性。在非单调线搜索条件下，当步长规则满足特定条件时，即使函数是非单调的，也能保证算法在全球范围内收敛。这种非单调性质使得方法能更好地处理病态优化问题，显著提高了算法的效率，并扩展了非线性共轭梯度法在实际应用中的适用范围。 论文的关键点集中在三项共轭梯度法、全局收敛性、非精确和精确线搜索策略、共轭梯度法的迭代更新规则以及重开始和非单调搜索技术上。这些研究对于理解大数据环境中复杂优化问题的求解策略具有重要意义，为实际工程中的大规模数据分析和模型训练提供了理论依据。