新移动渐近线算法：高效解无约束优化问题

"一种解无约束优化问题的新移动渐近线算法* (2012年)，由胡平、贾朝辉和倪勤撰写，发表于《工程数学学报》2012年第29卷第3期。该研究提出了一种解决无约束优化问题的新方法，即移动渐近线算法，适用于大规模问题。算法通过构造移动渐近线函数来建立简单可分且严格凸的子问题，然后利用线搜索策略确定搜索步长，确保算法的全局收敛性。数值实验验证了算法的有效性。" 正文: 无约束优化问题在现代科学与工程领域中广泛存在，其目标是找到使某个实值函数达到最小值的点，而没有额外的约束条件。论文“一种解无约束优化问题的新移动渐近线算法”针对这类问题提出了创新的解决方案。移动渐近线算法（Method of Moving Asymptotes，MMA）最初被Svanberg设计用于处理约束优化问题，但在此研究中，作者将其改进并应用到无约束优化问题中。 在传统的无约束优化算法中，确定下降方向通常需要计算梯度并进行矩阵向量乘法运算，这在处理大规模问题时可能导致计算复杂度较高。移动渐近线算法则通过构建移动渐近线函数来简化这一过程。在每次迭代时，算法会构造一个与原问题相关的移动渐近线函数，这个函数能近似目标函数，并生成一个与之相关联的简单可分且严格凸的子问题。通过解决这个子问题，可以得到一个下降搜索方向。 论文中，作者设计了一个由多个子问题组成的序列，每个子问题都对应于原问题的一个局部逼近。在第k次迭代时，子问题的目标函数是f(xk)加上移动渐近线函数的贡献，而约束条件则涉及移动渐近线函数的边界。这个子问题的解决方案sk给出下降方向，之后通过线搜索确定合适的步长αk，按照公式(2)更新迭代点xk+1。 移动渐近线算法的关键在于其构造的子问题，它们不仅简化了计算，而且保证了算法的全局收敛性。论文讨论了参数选择的原则，证明了算法能够从任意初始点出发收敛到全局最优解。此外，作者还进行了数值实验，实验结果支持了理论分析，显示新算法在处理大规模无约束优化问题时表现出高效性和准确性。 移动渐近线算法的引入对于优化领域是一个重要进展，它降低了计算复杂度，特别是在处理大型无约束问题时，能够有效减少计算负担。同时，通过线搜索与移动渐近线函数的结合，该算法能够在保持计算效率的同时保证优化过程的稳健性。因此，这种新算法对于实际工程应用和科学研究具有重要的实践价值。