近端增广拉格朗日法求解广义正交约束优化

"广义正交约束优化问题的算法及应用，黄琳娜，温罗生，本文主要研究带有线性等式约束和正交约束的优化问题，提出了近端增广拉格朗日方法来解决这类问题。" 本文是黄琳娜和温罗生合作的一篇首发论文，主要探讨了在优化问题中遇到的一种特殊类型——广义正交约束优化问题。这类问题涉及到线性等式约束以及正交约束，这两个因素使得问题的求解变得复杂且具有挑战性。正交约束通常出现在诸如矩阵正交性、Stiefel流形等数学问题中，这些领域在机器学习、数据科学和工程中有广泛应用。 现有的优化算法可能无法有效地处理这种包含非线性正交约束的问题，因此，作者在已有的模型和算法基础上，提出了近端增广拉格朗日方法（Proximal Augmented Lagrangian Method）。传统的增广拉格朗日方法在处理线性问题时表现优秀，但对于非线性问题，特别是正交约束的情况，其性能可能会因参数选择的敏感性而受到影响。为了克服这个问题，作者引入了近端项（proximal term）的概念，结合对称的拉格朗日乘子，创新性地设计了一种新的算法。 近端项的引入旨在改善算法对于非线性问题的适应性，它可以帮助更好地处理正交约束带来的非凸性质。通过对称的拉格朗日乘子，新算法能够更均衡地处理约束条件，从而提高求解的稳定性和精度。通过数值实验，作者证明了新提出的算法在解决此类问题时，相比于现有的方法，表现出更好的性能和效率。 关键词涵盖了正交约束、Stiefel流形、增广拉格朗日方法和近端项，这些都是文章研究的核心概念。中图分类号则将其归类于O22，即算法和应用的数学领域，这表明文章内容主要涉及优化算法的理论与实际应用。 总结来说，这篇论文提供了一个新的工具，即近端增广拉格朗日方法，用于解决含有线性等式和正交约束的优化问题，特别是在那些传统方法难以有效应对的非线性场景中。通过实验验证，该方法展示了显著的优势，为相关领域的研究和实践提供了有价值的贡献。