MATLAB写一段拟牛顿法

下面给出一个简单的 MATLAB 实现，使用 BFGS 算法实现拟牛顿法。

假设有一个需要最小化的目标函数 $f(x)$，初始点为 $x_0$。则拟牛顿法首先需要确定初始的 Hessian 矩阵的逆，通常可以选择单位矩阵，即 $B_0 = I$。然后，通过不断迭代更新 $B_k$ 的逆，来逼近目标函数的 Hessian 矩阵的逆。

具体实现如下：

function [xopt, fopt, iter] = quasinewton(f, x0, maxiter, tol)
% f: 目标函数
% x0: 初始点
% maxiter: 最大迭代次数
% tol: 容忍误差

n = length(x0);
B = eye(n); % 初始 Hessian 矩阵的逆为单位矩阵
x = x0;
fx = f(x);
gradf = gradient(f, x);
iter = 0;

while iter < maxiter && norm(gradf) > tol
    p = -B * gradf; % 计算搜索方向
    alpha = backtracking(f, x, p); % 通过回溯线性搜索计算步长
    xnew = x + alpha * p; % 计算新的点
    s = xnew - x;
    y = gradient(f, xnew) - gradf;
    B = B + (y * y') / (y' * s) - (B * s * s' * B) / (s' * B * s); % 更新 Hessian 矩阵的逆
    x = xnew;
    fx = f(x);
    gradf = gradient(f, x);
    iter = iter + 1;
end

xopt = x;
fopt = fx;
end

function [alpha] = backtracking(f, x, p)
% 回溯线性搜索
alpha = 1;
rho = 0.5;
c = 0.5;
fx = f(x);
gradf = gradient(f, x);
while f(x + alpha * p) > fx + c * alpha * gradf' * p
    alpha = rho * alpha;
end
end

其中，`gradient(f, x)` 函数可以通过 MATLAB 内置函数 `gradient` 计算目标函数在点 $x$ 处的梯度。`backtracking` 函数实现回溯线性搜索，以确保迭代点的可行性。

使用时，可以将目标函数 `f` 和初始点 `x0` 作为输入参数传入，例如：

f = @(x) (x(1) - 1)^2 + (x(2) - 2.5)^2;
x0 = [0; 0];
maxiter = 1000;
tol = 1e-6;
[xopt, fopt, iter] = quasinewton(f, x0, maxiter, tol);

其中，上述示例中的目标函数为二维的 Rosenbrock 函数，可以通过调整函数 `f` 来适应不同的问题。