用python代码实现的集成学习方法算法
时间: 2024-01-30 21:01:43 浏览: 64
好的,下面是用Python代码实现的集成学习方法算法,以Bagging为例:
```python
from sklearn.ensemble import BaggingClassifier
from sklearn.tree import DecisionTreeClassifier
from sklearn.datasets import make_classification
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score
# 生成数据集
X, y = make_classification(n_samples=1000, n_features=20, n_informative=10,
n_classes=2, random_state=42)
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42)
# 定义基学习器
base_estimator = DecisionTreeClassifier(max_depth=5)
# 定义Bagging集成学习器
bagging = BaggingClassifier(base_estimator=base_estimator, n_estimators=10, random_state=42)
# 训练Bagging模型
bagging.fit(X_train, y_train)
# 预测测试集
y_pred = bagging.predict(X_test)
# 评估模型性能
accuracy = accuracy_score(y_test, y_pred)
print("Bagging模型的准确率为:", accuracy)
```
以上代码中,首先生成了一个二分类的数据集,然后将数据集划分为训练集和测试集。接着定义了一个基学习器,这里使用决策树分类器,并设定最大深度为5。然后定义了一个Bagging集成学习器,传入基学习器和集成学习器的数量,这里设定为10。训练模型后,对测试集进行预测,并计算准确率作为模型性能的评估指标。
阅读全文