非单调自适应信赖域算法:无线搜索优化新方法

需积分: 7 0 下载量 7 浏览量 更新于2024-09-04 收藏 407KB PDF 举报
"《A Nonmonotonic Self-Adaptive Trust Region Algorithm Without Line Search》是由杭丹和周群艳撰写的一篇首发论文,主要探讨了一种无线搜索的非单调自适应信赖域优化算法。该算法结合了非单调技术、固定步长和自适应信赖域策略,特别在试步不被接受时,不再重新解决子问题,而是根据公式定义生成新的迭代点的步长。该研究得到了江苏省高等教育机构NSF的支持。" 本文提出的非单调自适应信赖域算法是一种针对无约束优化问题的方法。在传统的信赖域算法中,通常需要通过线性搜索来确定每一步的步长,而这个新算法则避免了这一过程。非单调技术允许算法在某些迭代中接受比先前解稍差的解,以期望在后续迭代中获得更好的全局性能,这在处理局部极小值和不连续问题时特别有用。 固定步长的引入为算法带来了一定的稳定性,减少了计算复杂性,尤其是在不需解决子问题的情况下。当试探步不被接受时,算法不重新计算子问题,而是利用特定公式确定下一个迭代点的步长,这可能有助于更快地跳出局部最小值,并且可能在某些情况下提高收敛速度。 自适应信赖域方法是算法的另一个关键特征。信赖域算法的核心在于定义一个信任区域,在这个区域内,函数可以近似为二次形式,从而简化优化问题。自适应部分意味着算法会动态调整信任区域的大小,以适应目标函数的局部特性,使得算法能够在保证全局收敛性的前提下更加灵活。 此外,该论文指出,新算法在适度的条件下具有理论保证的收敛性质。这些条件通常包括关于目标函数的连续性和梯度的Lipschitz连续性等。通过这些条件,作者能够证明算法在理论上能够逐渐接近全局最优解。 《A Nonmonotonic Self-Adaptive Trust Region Algorithm Without Line Search》提出了一种创新的优化算法,它通过结合非单调、固定步长和自适应信赖域策略,提高了在无约束优化问题中的求解效率和全局探索能力,对于解决复杂优化问题有潜在的应用价值。