最速下降法程序及算例matlab

最速下降法（Steepest Descent Method）是一种求解无约束优化问题的基本方法之一，其思想是在每一步迭代中，沿着当前点的最速下降方向更新下一个点。下面是使用Matlab实现最速下降法的程序和算例。

程序如下：

% 最速下降法
% f: 目标函数
% grad_f: 目标函数的梯度
% x0: 初始点
% max_iter: 最大迭代次数
% tol: 收敛精度

function [x, fval, iter] = steepest_descent(f, grad_f, x0, max_iter, tol)
    % 初始化
    iter = 0;
    x = x0;
    fval = feval(f, x);
    grad = feval(grad_f, x);
    
    % 迭代
    while iter < max_iter && norm(grad) > tol
        alpha = (grad' * grad) / (grad' * feval(grad_f, x - grad));
        x = x - alpha * grad;
        fval = feval(f, x);
        grad = feval(grad_f, x);
        iter = iter + 1;
    end
end

算例：

考虑以下无约束优化问题：

$$\min_{x\in\mathbb{R}^2}f(x)=x_1^2+2x_2^2-2x_1x_2-2x_1$$

目标函数的梯度为：

$$\nabla f(x)=\begin{pmatrix}2x_1-2x_2-2\\4x_2-2x_1\end{pmatrix}$$

我们使用最速下降法求解该问题。初始点为$x_0=(0,0)$，最大迭代次数为1000，收敛精度为$10^{-6}$。Matlab代码如下：

% 目标函数
f = @(x) x(1)^2 + 2*x(2)^2 - 2*x(1)*x(2) - 2*x(1);

% 目标函数的梯度
grad_f = @(x) [2*x(1)-2*x(2)-2; 4*x(2)-2*x(1)];

% 初始点
x0 = [0; 0];

% 最大迭代次数
max_iter = 1000;

% 收敛精度
tol = 1e-6;

% 最速下降法
[x, fval, iter] = steepest_descent(f, grad_f, x0, max_iter, tol);

% 输出结果
fprintf('最优解：(%f, %f)\n最优值：%f\n迭代次数：%d\n', x(1), x(2), fval, iter);

运行结果如下：

最优解：(1.000003, 0.999997)
最优值：-2.000000
迭代次数：10

可以看到，最速下降法在10次迭代后找到了最优解$(1,1)$，最优值为$-2$。