集成学习模型代码python
时间: 2024-03-02 20:46:53 浏览: 118
集成学习是一种通过组合多个基本模型来提高预测准确性的机器学习方法。下面是一个使用Python实现集成学习模型的示例代码:
```python
# 导入所需的库
from sklearn.ensemble import VotingClassifier
from sklearn.tree import DecisionTreeClassifier
from sklearn.neighbors import KNeighborsClassifier
from sklearn.svm import SVC
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score
# 加载数据集
iris = load_iris()
X, y = iris.data, iris.target
# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
# 定义基本模型
model1 = DecisionTreeClassifier()
model2 = KNeighborsClassifier()
model3 = SVC()
# 定义集成学习模型
ensemble_model = VotingClassifier(estimators=[('dt', model1), ('knn', model2), ('svm', model3)], voting='hard')
# 训练集成学习模型
ensemble_model.fit(X_train, y_train)
# 在测试集上进行预测
y_pred = ensemble_model.predict(X_test)
# 计算准确率
accuracy = accuracy_score(y_test, y_pred)
print("准确率:", accuracy)
```
在上面的代码中,我们使用了三个基本模型:决策树分类器(DecisionTreeClassifier)、K近邻分类器(KNeighborsClassifier)和支持向量机分类器(SVC)。然后,我们使用VotingClassifier来定义集成学习模型,其中estimators参数指定了基本模型的名称和实例,voting参数指定了投票策略('hard'表示多数表决)。最后,我们使用fit方法训练集成学习模型,并使用predict方法在测试集上进行预测,最后计算准确率。
阅读全文