惯性近端交替算法在非凸非光滑优化中的应用

"这篇研究论文探讨了如何使用惯性近端交替最小化算法解决非凸和非光滑优化问题。在优化领域，这类问题普遍存在于许多实际应用中，如机器学习、图像处理和信号处理等。文章由Yaxuan Zhang和Songnian He撰写，发表在2017年的《不等式与应用》期刊上。" 本文的核心是介绍一种新的算法，该算法针对形如\( L(x,y) = f(x) + R(x,y) + g(y) \)的优化问题，其中\( f \)和\( g \)是非凸且非光滑的函数，而\( R \)是一个可以选择的光滑函数。非凸和非光滑的特性使得问题的求解变得复杂，传统的方法可能无法有效处理。 惯性近端交替最小化算法是优化问题的一个重要工具，它结合了近端方法（proximal method）的优点，通过迭代逐步逼近问题的解。近端方法通常用于处理包含非光滑项的优化问题，通过引入一个 prox 操作来处理这些项。而惯性（inertial）元素的引入则是为了加速算法的收敛速度，这是基于Nesterov的加速梯度思想。 论文中，作者构造了一个关键函数\( H \)，该函数确保了迭代序列的充分下降性质，即每次迭代后目标函数\( L \)的值会显著降低。通过对\( H \)满足的Kurdyka-Lojasiewicz不等式的分析，作者证明了算法产生的任何有界序列都将强收敛到\( L \)的一个临界点。Kurdyka-Lojasiewicz不等式是分析非凸优化问题中序列收敛性的重要工具，它提供了一种度量函数接近局部极小值的几何方式。 1. 引言部分强调了非凸和非光滑优化问题的重要性，指出它们在现实世界中的广泛需求，比如在深度学习模型的训练和复杂的工程问题中。 2. 文章接下来详细阐述了所提出的惯性近端交替最小化算法的步骤和数学理论基础，包括算法的设计、收敛条件以及对\( H \)函数的构造方法。 3. 数值实验部分可能展示了算法在不同实际问题上的性能，对比了传统方法，证明了新算法的有效性和优势。 4. 结论部分总结了研究结果，并可能提出了未来研究的方向，如扩展算法适应更广泛的优化问题，或者进一步改进收敛速度。 这篇论文对理解和解决非凸非光滑优化问题提供了新的视角，对于从事优化算法研究和应用的科研工作者具有重要的参考价值。