用matlab实现adaboost

以下是一个简单的 Matlab 实现 Adaboost 的示例代码：

% Adaboost 算法的实现

% 初始化数据
X = [1,2,3,4,5,6,7,8,9,10;
     1,1,1,-1,-1,-1,1,1,1,-1;
     1,1,-1,1,-1,-1,1,1,-1,1;
     1,-1,1,-1,1,-1,1,-1,1,-1];
Y = [1,1,-1,-1,-1,1,-1,1,-1,1];

% 初始化参数
m = size(X,2);
D = ones(1,m)/m;
T = 5;

% 训练 Adaboost
for t = 1:T
    % 训练一个基分类器
    [classifier, error, accuracy] = train_classifier(X, Y, D);
    
    % 更新权重
    alpha = 0.5 * log((1-error)/error);
    D = D .* exp(-alpha*Y.*classifier(X));
    D = D / sum(D);
    
    % 保存结果
    classifiers(t).classifier = classifier;
    classifiers(t).alpha = alpha;
    classifiers(t).accuracy = accuracy;
end

% 预测
function y = predict(X, classifiers)
    y = zeros(1,size(X,2));
    for t = 1:length(classifiers)
        y = y + classifiers(t).alpha * classifiers(t).classifier(X);
    end
    y = sign(y);
end

% 训练基分类器
function [classifier, error, accuracy] = train_classifier(X, Y, D)
    m = size(X,2);
    best_error = Inf;
    for j = 1:size(X,1)
        s = [-1,1];
        for k = 1:length(s)
            theta = s(k)*X(j,:);
            error = sum(D.*(Y ~= sign(X(j,:)-theta)));
            if error < best_error
                best_error = error;
                classifier = @(X) sign(X(j,:)-theta);
                accuracy = sum(Y == classifier(X))/m;
            end
        end
    end
end

在这个示例中，我们使用了四个特征和 10 个训练样本。我们训练了 5 个基分类器，每个分类器使用单个特征和阈值作为单个决策树来进行分类。我们使用指数损失函数和交叉熵损失函数来更新每个基分类器的权重。最后，我们使用所有基分类器的权重进行加权和来进行预测。