动量下降算法matlab

动量下降算法（Momentum Gradient Descent）是一种常用的优化算法，用于求解机器学习和深度学习中的参数优化问题。它在梯度下降算法的基础上引入了动量的概念，可以加速收敛并减少震荡。

在Matlab中，可以使用以下代码实现动量下降算法：

function [theta, J_history] = momentumGradientDescent(X, y, theta, alpha, beta, num_iters)
    m = length(y);
    J_history = zeros(num_iters, 1);
    v = zeros(size(theta));
    
    for iter = 1:num_iters
        h = X * theta;
        error = h - y;
        gradient = (1/m) * (X' * error);
        
        v = beta * v + alpha * gradient;
        theta = theta - v;
        
        J_history(iter) = computeCost(X, y, theta);
    end
end

其中，`X`是输入特征矩阵，`y`是目标变量向量，`theta`是待优化的参数向量，`alpha`是学习率，`beta`是动量系数，`num_iters`是迭代次数。`computeCost`函数用于计算损失函数的值。

使用该算法进行优化时，需要先定义好输入特征矩阵`X`和目标变量向量`y`，然后初始化参数向量`theta`，选择合适的学习率`alpha`和动量系数`beta`，最后调用`momentumGradientDescent`函数进行迭代优化。