无约束优化：信赖域方法与Matlab实现

"无约束优化问题的信赖域方法与线搜索技术" 在无约束优化问题的求解中，信赖域方法和线搜索技术是两种常用且重要的全局收敛算法。线搜索技术首先选择一个搜索方向，然后在该方向上寻找合适的步长以使目标函数值下降。相比之下，信赖域方法则是直接在迭代点周围定义一个信赖域，这个区域是一个以当前迭代点为中心，半径为信赖域半径的闭球。信赖域内的优化问题通常简化为目标函数的二次近似模型，以便于求解。 在信赖域方法的基本流程中，首先设定一个初始的信赖域半径，并构建一个信赖域子问题。这个子问题的目标是找到在当前信赖域内使得二次近似模型目标函数值最小的点，即候选位移。如果候选位移能导致目标函数值显著下降，那么就接受这个位移，更新迭代点并可能扩大信赖域半径；如果下降不足，则说明当前的二次模型可能不够准确，需要缩小信赖域，重新解决子问题。这个过程会一直持续，直到达到预设的终止条件，如满足一定的函数值下降阈值、迭代次数限制或者梯度范数小于某个阈值等。 MATLAB作为一种强大的数值计算软件，提供了实现这些优化算法的工具和接口。例如，可以使用MATLAB编写程序实现精确或非精确线搜索的算法，如0.616法和抛物线法。对于信赖域方法，MATLAB编程可以涵盖从最速下降法、牛顿法到拟牛顿法，如BFGS和DFP算法，以及Broyden家族的方法。此外，还可以设计用于非线性最小二乘问题的Levenberg-Marquardt（L-M）算法，约束优化问题的乘子法、有效集法或序列二次规划（SQP）方法等。 本书《最优化方法及其Matlab程序设计》详细介绍了这些理论和算法，并通过实例和习题帮助读者理解和掌握它们。MATLAB优化工具箱也被提及，它是解决优化问题的现成工具，包含了各种优化问题的求解器，方便用户直接调用，无需从零开始编写代码。 对于希望深入学习最优化理论与算法的数学与应用数学、信息与计算科学专业的学生，以及相关专业的研究生和科研工作者，这本书是一个理想的参考资源。读者仅需具备基本的微积分、线性代数和MATLAB编程知识，就能跟随书中的指导逐步掌握优化问题的求解技巧。通过本书，读者不仅可以了解优化算法的理论基础，还能学习如何将这些理论应用于实际问题的求解，增强实际计算能力。