阻尼牛顿法求解无约束优化

阻尼牛顿法可以被用于求解无约束优化问题。无约束优化问题的目标是寻找函数 $f(\mathbf{x})$ 的极小值，其中 $\mathbf{x} \in \mathbb{R}^n$。下面是一个基于阻尼牛顿法的函数实现，可以用于求解无约束优化问题的极小值：

function [x, fx, iter] = damped_newton_unconstrained(f, gradf, hessf, x0, tol, maxiter)
% f: 目标函数
% gradf: 目标函数的梯度
% hessf: 目标函数的 Hessian 矩阵
% x0: 初始点
% tol: 精度要求
% maxiter: 最大迭代次数

x = x0;
fx = f(x);
g = gradf(x);
H = hessf(x);
iter = 0;

while norm(g) > tol && iter < maxiter
    % 计算搜索方向
    d = -H \ g;
    
    % 阻尼系数的初始值
    alpha = 1;
    
    % 利用 backtracking line search 计算最优的阻尼系数
    while f(x + alpha * d) > fx + 0.5 * alpha * g' * d
        alpha = alpha / 2;
    end
    
    % 更新解和函数值
    x = x + alpha * d;
    fx = f(x);
    
    % 更新梯度和 Hessian 矩阵
    g = gradf(x);
    H = hessf(x);
    
    iter = iter + 1;
end
end

其中，`f`、`gradf` 和 `hessf` 分别是目标函数、目标函数的梯度和 Hessian 矩阵的函数句柄。`x0` 是初始点，`tol` 是精度要求，`maxiter` 是最大迭代次数。函数的输出包括求解得到的最优解 `x`、最优解对应的函数值 `fx` 和迭代次数 `iter`。

使用该函数可以实现对任意无约束优化问题的极小值求解，例如，对于 Rosenbrock 函数：

% Rosenbrock 函数
f = @(x) 100 * (x(2) - x(1)^2)^2 + (1 - x(1))^2;
gradf = @(x) [-400 * x(1) * (x(2) - x(1)^2) - 2 * (1 - x(1)); 200 * (x(2) - x(1)^2)];
hessf = @(x) [1200 * x(1)^2 - 400 * x(2) + 2, -400 * x(1); -400 * x(1), 200];
x0 = [-1.2; 1];
tol = 1e-6;
maxiter = 100;

[x, fx, iter] = damped_newton_unconstrained(f, gradf, hessf, x0, tol, maxiter);
fprintf("x = (%g, %g), f(x) = %g, iter = %d\n", x(1), x(2), fx, iter);

可以得到最优解为 `x = (1, 1)`，最小函数值为 `f(x) = 0`，迭代次数为 19。