sklearn中adaboost算法

### 关于 `sklearn` 库中的 AdaBoost 实现

AdaBoost 是一种集成学习方法，通过组合多个弱分类器来形成强分类器。在 `scikit-learn` 中，AdaBoost 的实现主要由两个类提供支持：`AdaBoostClassifier` 和 `AdaBoostRegressor`。

#### 导入必要的模块
为了使用 AdaBoost，在 Python 环境下需先导入相应的库：

from sklearn.ensemble import AdaBoostClassifier, AdaBoostRegressor
from sklearn.datasets import make_classification
from sklearn.model_selection import train_test_split
from sklearn.metrics import roc_auc_score

#### 创建数据集并分割训练测试集合
这里创建一个简单的二元分类问题作为例子，并将其划分为训练集和测试集两部分：

X, y = make_classification(n_samples=1000, n_features=20,
                           n_informative=2, n_redundant=10,
                           random_state=42)
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, stratify=y, random_state=42)

#### 初始化模型与拟合过程
对于分类任务可以初始化 `AdaBoostClassifier` 并指定基础估计量，默认情况下它会采用决策树桩（即最大深度为 1 的决策树）。接着利用训练数据对模型进行训练：

ada_clf = AdaBoostClassifier(n_estimators=50, learning_rate=1.0, random_state=42)
ada_clf.fit(X_train, y_train)

#### 预测性能评估
完成训练之后，可以通过多种方式衡量模型的表现，比如计算预测概率以及绘制 ROC 曲线下的面积(AUC)，这有助于理解不同阈值水平上的真阳性和假阳性率之间的权衡关系[^3]。

y_pred_proba = ada_clf.predict_proba(X_test)[:, 1]
auc_score = roc_auc_score(y_test, y_pred_proba)

print(f"AUROC Score: {auc_score:.4f}")

上述代码展示了如何基于 `scikit-learn` 使用 AdaBoost 进行建模的过程，同时也包含了基本的数据准备、模型构建、参数调整及效果评价等内容。