DFP算法详解与Matlab实现：二次函数极小化案例

DFP算法，全称为Davidon-Fletcher-Powell（DFP）算法，是一种在非线性优化问题中用于求解最小化函数的迭代方法。它在求解目标函数的局部极小点时，利用了二阶信息，即函数的梯度和海森矩阵（Hessian矩阵）。DFP算法的核心在于更新搜索方向和海森矩阵的修正过程。 在给出的文档中，具体应用场景是一维函数优化，例如求解函数f(x1, x2) = x1^2 + 2x2^2 - 2x1x2 - 4x1，目标是找到这个函数的局部最小值。初始迭代点设为x0，并使用单位矩阵作为初始海森矩阵H0。DFP算法的迭代步骤包括： 1. **初始化**： - 给定初始点x0，初始海森矩阵H0通常是单位阵。 - 计算当前点的梯度gk和函数值fk。 - 设定收敛误差阈值ess，用于判断迭代是否停止。 2. **搜索方向**： - 使用DFP公式计算搜索方向pk，它是负的海森矩阵Hk的逆乘以梯度gk。 3. **精确一维搜索**： - 构造一元搜索函数φ(t)，然后通过求导找到最优步长tk，确保函数值在新的点上下降。 4. **更新迭代点和矩阵**： - 如果找到最优步长，则更新xk、fk和gk，否则可能需要调整步长或停止迭代。 - 对海森矩阵进行修正，这是因为每次迭代后，根据新点的信息更新矩阵，以更准确地反映函数的曲率。 5. **循环判断**： - 检查梯度的范数是否小于预设的误差阈值ess，如果满足，则迭代结束，否则进入下一轮迭代。 提供的Matlab程序实现展示了DFP算法的具体操作，通过符号运算和数值计算，逐步逼近函数的局部极小值。此程序不仅演示了算法的执行流程，还展示了如何在实际编程环境中应用DFP算法来求解优化问题。 DFP算法在求解多变量非线性优化问题时，通过结合梯度和海森矩阵的信息，能够在局部区域有效地寻找最小值点。通过这段描述和Matlab代码，学习者可以理解DFP算法的工作原理并应用于实际问题中。