无约束优化：带线搜索的非单调自适应信赖域算法

"景书杰和苗荣在河南理工大学提出的新的无约束最优化算法，该算法结合了非单调性和自适应策略，旨在解决无约束优化问题。他们设计了一种带线搜索的非单调自适应信赖域算法，通过采用Wolfe线搜索策略，当试验步失败时不重新解信赖域子问题，从而减少了计算复杂性。此外，他们在适当的理论框架下证明了新算法具备全局收敛性。该工作发表于2012年，属于数值优化领域的研究，对提高无约束优化问题的求解效率有重要贡献。" 在无约束最优化问题中，信赖域方法是一种广泛应用的数值方法，其核心思想是在每一步迭代中，将原问题转化为一个在某个“信赖域”内的二次近似子问题来求解。传统的信赖域算法通常基于单调性原则，即每次迭代后的函数值必须比前一步有所降低。然而，在某些情况下，这样的策略可能导致迭代过程过于保守，增加了计算成本。 景书杰和苗荣提出的非单调自适应信赖域算法打破了这一限制，引入了非单调性规则，允许在某些迭代步中函数值的轻微上升，以换取更大的步长和更快的全局收敛速度。同时，算法还包含自适应特性，即根据试验步的结果动态调整信赖域大小和搜索方向。当试验步未达到预设的下降条件时，他们采用了Wolfe线搜索策略，而不是重新解子问题，这在一定程度上降低了计算负荷，提高了算法效率。 线搜索是优化算法中的关键组成部分，Wolfe条件是一种常用的线搜索策略，它确保了步长选择的足够大以保证函数值的下降，同时要求梯度的内积满足一定的条件，以确保步长不会过长导致函数值的快速上升。结合Wolfe线搜索，新算法能够在保持全局收敛性的前提下，有效地平衡步长选取和下降要求。 论文证明了在一定的假设条件下，这种新算法能够全局收敛到极小值点，这意味着无论初始点如何选择，算法都将逐渐接近目标函数的最小值。这对于实际应用来说是至关重要的，因为许多实际问题的初始点往往是未知的或者难以确定的。 这项工作为无约束最优化问题提供了一个计算效率更高、适应性更强的解决方案，对于数值优化理论及其实现具有重要的实践意义。它不仅丰富了信赖域方法的理论体系，也为实际问题的求解提供了新的工具。