编写 Adam Matlab代码

以下是一个简单的Adam优化算法的Matlab代码实现：

function [x_opt, f_opt] = adam_optimizer(f, grad_f, x_init, options)
% f: 目标函数
% grad_f: 目标函数的梯度
% x_init: 初始点
% options: 可选参数

% 初始化Adam参数
beta1 = 0.9;
beta2 = 0.999;
epsilon = 1e-8;
m = zeros(size(x_init));
v = zeros(size(x_init));
t = 0;

% 解析可选参数
if nargin < 4
    options = struct;
end
if ~isfield(options, 'tol')
    options.tol = 1e-6;
end
if ~isfield(options, 'max_iter')
    options.max_iter = 1000;
end
if ~isfield(options, 'alpha')
    options.alpha = 0.01;
end

% 迭代优化
x = x_init;
f_opt = f(x);
while (norm(grad_f(x)) > options.tol) && (t < options.max_iter)
    t = t + 1;
    g = grad_f(x);
    m = beta1 * m + (1 - beta1) * g;
    v = beta2 * v + (1 - beta2) * g.^2;
    m_hat = m / (1 - beta1^t);
    v_hat = v / (1 - beta2^t);
    x = x - options.alpha * m_hat ./ (sqrt(v_hat) + epsilon);
    f_opt = f(x);
end
x_opt = x;
end

其中，`f`和`grad_f`分别为目标函数和目标函数的梯度函数，`x_init`为初始点，`options`是一个包含优化算法参数的结构体。在本代码中，我们使用Adam的默认参数，并且提供了一些可选参数，如收敛容差和最大迭代次数。

在每次迭代中，我们计算目标函数的梯度，并更新Adam的一阶和二阶矩估计。然后，我们计算修正后的一阶和二阶矩，并使用它们来更新当前点的值。当满足收敛条件或达到最大迭代次数时，优化过程停止。

使用该函数的示例代码：

% 定义目标函数和梯度函数
f = @(x) x(1)^2 + 2*x(2)^2;
grad_f = @(x) [2*x(1); 4*x(2)];

% 设置初始点和优化参数
x_init = [1; 1];
options.tol = 1e-6;
options.max_iter = 1000;
options.alpha = 0.01;

% 运行Adam优化算法
[x_opt, f_opt] = adam_optimizer(f, grad_f, x_init, options);

% 输出结果
disp(['Optimal solution: (', num2str(x_opt(1)), ', ', num2str(x_opt(2)), ')']);
disp(['Optimal function value: ', num2str(f_opt)]);