matlab编写随机梯度下降法

下面是一个简单的Matlab代码实现随机梯度下降法，可以用于线性回归问题：

% 初始化参数
theta = zeros(n+1, 1); % 参数向量
alpha = 0.01; % 学习率
iters = 1000; % 迭代次数

% 随机梯度下降
for i=1:iters
    % 随机选择一个样本
    idx = randi(m);
    x_i = [1, X(idx, :)]; % 加上截距项
    y_i = y(idx);
    
    % 计算梯度
    h = x_i*theta;
    grad = (h-y_i)*x_i';
    
    % 更新参数
    theta = theta - alpha*grad;
end

其中，`n`表示特征的数量（不包括截距项），`m`表示训练样本的数量，`X`是一个`m x n`的矩阵，每行表示一个样本的特征值，`y`是一个`m x 1`的向量，表示每个样本的目标值。在每次迭代中，随机选择一个样本，计算其梯度并更新参数。最后的参数向量`theta`即为回归模型的参数。

相关问题

matlab编写随机梯度下降法求解一个多元函数的最小值

下面是一个简单的Matlab代码实现随机梯度下降法，求解一个多元函数的最小值：

% 定义目标函数
f = @(x) (x(1)-1)^2 + (x(2)-2)^2 + (x(3)-3)^2;

% 初始化参数
x0 = [0, 0, 0]; % 初始值
alpha = 0.01; % 学习率
iters = 1000; % 迭代次数

% 随机梯度下降
x = x0; % 初始点
for i=1:iters
    % 随机选择一个方向
    dir = randn(1, 3); % 随机生成一个方向
    dir = dir/norm(dir); % 归一化
    
    % 计算梯度
    grad = (f(x+0.0001*dir)-f(x))/0.0001*dir';
    
    % 更新参数
    x = x - alpha*grad*dir;
end

% 输出结果
fprintf('最小值为 %f\n', f(x));
fprintf('最小点为 (%f, %f, %f)\n', x(1), x(2), x(3));

其中，`f`表示目标函数，`x0`表示初始点，`alpha`表示学习率，`iters`表示迭代次数。在每次迭代中，随机选择一个方向，计算梯度并更新参数。最后的`x`即为函数的最小点，`f(x)`即为函数的最小值。

编写MATLAB程序，采用随机梯度下降法，求感知器算法的判别函数。

好的,我很乐意为您介绍如何使用MATLAB编写程序,采用随机梯度下降法来求解感知器算法的判别函数。以下是一个基本的实现方法:

function [w, b, errors] = perceptron_sgd(X, y, learning_rate, epochs)
    % 初始化权重和偏置
    [m, n] = size(X);
    w = zeros(1, n);
    b = 0;
    errors = zeros(1, epochs);
    
    % 迭代训练
    for epoch = 1:epochs
        for i = 1:m
            % 随机选择样本
            idx = randi(m);
            x_i = X(idx, :);
            y_i = y(idx);
            
            % 计算预测值
            y_pred = dot(w, x_i) + b;
            
            % 更新权重和偏置
            if y_i * y_pred <= 0
                w = w + learning_rate * y_i * x_i;
                b = b + learning_rate * y_i;
                errors(epoch) = errors(epoch) + 1;
            end
        end
    end
end

这个函数接受以下参数:

- X: 输入特征矩阵,每一行是一个样本,每一列是一个特征
- y: 目标值向量,包含1或-1
- learning_rate: 学习率
- epochs: 训练轮数

函数返回:

- w: 训练得到的权重向量
- b: 训练得到的偏置
- errors: 每个epoch的错误计数

使用示例:

% 生成示例数据
X = [2 3; 1 1; -1 2; -3 -1; -2 -3];
y = [1, 1, -1, -1, -1];

% 设置参数
learning_rate = 0.01;
epochs = 100;

% 训练感知器
[w, b, errors] = perceptron_sgd(X, y, learning_rate, epochs);

% 打印结果
disp('训练得到的权重:');
disp(w);
disp('训练得到的偏置:');
disp(b);

% 绘制错误率曲线
plot(1:epochs, errors);
xlabel('Epoch');
ylabel('Number of errors');
title('Perceptron Training Errors');

这个程序实现了基本的感知器算法,使用随机梯度下降法进行训练。它适用于线性可分的数据集。