adaboost Python代码

以下是一个简单的adaboost Python代码实现：

import numpy as np

class Adaboost:
    def __init__(self, n_estimators=50, learning_rate=1.0):
        self.n_estimators = n_estimators
        self.learning_rate = learning_rate
        self.estimators = []

    def fit(self, X, y):
        m, n = X.shape
        w = np.ones(m) / m

        for i in range(self.n_estimators):
            tree = DecisionTreeClassifier(max_depth=1)
            tree.fit(X, y, sample_weight=w)
            y_pred = tree.predict(X)

            eps = w.dot(y_pred != y)

            alpha = 0.5 * np.log((1 - eps) / eps)

            w = w * np.exp(-alpha * y * y_pred)
            w /= w.sum()

            self.estimators.append((alpha, tree))

    def predict(self, X):
        y_pred = np.zeros(len(X))
        for alpha, tree in self.estimators:
            y_pred += alpha * tree.predict(X)
        return np.sign(y_pred)

这个实现使用了决策树作为基础分类器，最大深度为1。在训练过程中，每个基础分类器都会被赋予一个权重alpha，这个权重是基于其在训练数据上的预测误差计算出来的。在预测时，所有基础分类器的预测结果都会被加权求和，得到最终的预测结果。