非单调自适应BB步长在非负矩阵分解中的算法研究

本文主要探讨了一种针对非负矩阵分解（Non-negative Matrix Factorization, NMF）的非单调自适应BB步长算法。该算法是在交替非负最小二乘（Alternating Non-negative Least Squares, ANLS）框架下提出的，旨在改善NMF的求解效率和全局收敛性。 NMF是一种矩阵分解方法，它将一个非负的输入矩阵V分解为两个非负矩阵W和H的乘积，即V≈WH。这种方法在数据挖掘、图像处理、生物信息学等领域有广泛应用，因为它能提供直观的解释性和低存储需求。最初的NMF算法，如Paatero和Tapper提出的ANLS算法，以及Lee和Seung提出的乘性迭代（Multiplicative Update, MU）算法，各有优缺点。ANLS算法因其快速收敛和坚实的理论基础而受到青睐，但MU算法在处理大规模问题时可能收敛较慢。 为了改进这些算法，研究人员提出了一系列基于ANLS框架的方法，包括投影梯度（Projected Gradient, PG）、投影Barzilai-Borwein（PBB）、投影牛顿算法和修正的子空间BB梯度（Modified Subspace Barzilai-Borwein for NMF, MSBBNMF）等。Barzilai-Borwein步长（BB步长）算法是一种优化技术，通过特定的步长选择策略加速收敛。然而，传统的BB步长可能不适用于非单调优化，因此，本文提出了一种非单调自适应BB步长算法，该算法满足非单调线搜索原则，确保了算法的全局收敛性。 新算法的独特之处在于它结合了自适应BB步长和梯度的Lipschitz常数，这不仅保证了收敛性，还提高了算法的收敛速度。作者通过理论分析证明了算法的收敛性，并通过数值实验和人脸识别的应用实例展示了其有效性。实验结果表明，该非单调自适应BB步长算法在实际应用中表现优越，比其他已知的NMF算法更高效。 总结起来，这项研究为NMF的求解提供了一个新的视角，通过改进步长策略来优化算法性能，对于处理大规模非负数据集和需要快速收敛速度的问题具有潜在价值。这一贡献对于理解和改进NMF算法的效率和全局行为有着重要的理论和实践意义。