非线性最优化方法与Matlab实现-冈萨雷斯英文版

"本书详细介绍了最优化方法，特别是可行方向法在数字图像处理中的应用，适合于数学与应用数学、信息与计算科学等专业的学生和研究人员。书中包含各种最优化算法的Matlab程序设计，旨在将理论与实践相结合。" 在最优化领域，可行方向法是一种解决约束优化问题的有效策略，其核心思想是在每一步迭代中寻找既能降低目标函数值又满足所有约束条件的搜索方向。这种方法确保了每次迭代后的新解都是合法的，即始终处于约束的边界内。可行方向法与线搜索技术、最速下降法、牛顿法、共轭梯度法、拟牛顿法、信赖域方法、非线性最小二乘问题的解决方案、罚函数法、二次规划问题的解法等一同构成了非线性优化的基石。 在Matlab环境下，这些算法的程序设计使得理论知识能够转化为实际操作，帮助读者理解并掌握算法的工作机制。例如，书中提供了如0.616法和抛物线法的精确线搜索程序，以及基于Armijo准则的非精确线搜索算法。最速下降法和牛顿法的实现，包括修正牛顿法，有助于解决非凸优化问题。此外，还涵盖了共轭梯度法的变种，如再开始共轭梯度法，以及拟牛顿法的代表，如BFGS和DFP算法。Broyden家族方法则用于处理动态系统的近似逆问题。 对于约束优化，书中特别强调了可行方向法，这是一种在迭代过程中始终保证解的可行性的重要方法。书中还涉及了解二次规划的有效集法和序列二次规划（SQP）方法，这些方法在解决复杂的约束优化问题时具有高效性。同时，书中通过L-M算法解决了非线性最小二乘问题，并介绍了乘子法来处理约束优化问题，这些方法在实际工程和科研中有着广泛的应用。 书中还包含了丰富的例题和习题，帮助读者加深理解，并提供了一部分关于Matlab优化工具箱的使用指南，使读者能够直接利用内置工具解决实际优化问题。总体来说，这本书不仅适合于具备微积分、线性代数和基础Matlab编程知识的学生，也适合于希望深入研究最优化理论与算法的专业人士和科研工作者。