写一段生成优化算法对比图的matlab代码

这里提供一段生成优化算法对比图的 MATLAB 代码，同样使用 Matplotlib 库进行绘图。

% 定义目标函数
function y = objective(x)
    y = x.^2 + 2 * sin(x);
end

% 定义不同优化算法
function x = gradient_descent(x0, lr, n_iter)
    for i = 1:n_iter
        grad = 2 * x0 + 2 * cos(x0);
        x0 = x0 - lr * grad;
    end
    x = x0;
end

function x = momentum(x0, lr, n_iter, gamma)
    v = 0;
    for i = 1:n_iter
        grad = 2 * x0 + 2 * cos(x0);
        v = gamma * v + lr * grad;
        x0 = x0 - v;
    end
    x = x0;
end

function x = nesterov(x0, lr, n_iter, gamma)
    v = 0;
    for i = 1:n_iter
        x_ahead = x0 - gamma * v;
        grad = 2 * x_ahead + 2 * cos(x_ahead);
        v = gamma * v + lr * grad;
        x0 = x0 - v;
    end
    x = x0;
end

% 生成优化算法对比图
x = -5:0.1:5;
y = objective(x);
plot(x, y, 'LineWidth', 1.5);
hold on;
plot(gradient_descent(4, 0.1, 100), objective(gradient_descent(4, 0.1, 100)), 'o', 'MarkerSize', 10);
plot(momentum(4, 0.1, 100, 0.9), objective(momentum(4, 0.1, 100, 0.9)), 'o', 'MarkerSize', 10);
plot(nesterov(4, 0.1, 100, 0.9), objective(nesterov(4, 0.1, 100, 0.9)), 'o', 'MarkerSize', 10);
legend('Objective Function', 'Gradient Descent', 'Momentum', 'Nesterov');
hold off;

这段代码中，我们首先定义了一个目标函数 `objective`，然后定义了三个不同的优化算法：梯度下降法、动量法和 Nesterov 加速梯度法。接着，我们生成了一组 x 值，并计算了对应的目标函数值，最后使用 plot 函数绘制了优化算法对比图。在图中，我们展示了不同优化算法在目标函数上的收敛轨迹，可以直观地看出它们的差异。