python梯度提升算法代码
时间: 2023-08-26 07:16:38 浏览: 117
XGBoost算法Python实战(代码).zip
5星 · 资源好评率100%
当谈到梯度提升算法时,通常指的是使用决策树作为基础模型的梯度提升算法,也被称为梯度提升决策树(Gradient Boosting Decision Trees)。以下是一个使用sklearn库中的GradientBoostingClassifier类来实现梯度提升算法的二分类代码示例:
```python
from sklearn.ensemble import GradientBoostingClassifier
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score
# 准备数据
X = [[1, 2], [2, 3], [3, 4], [4, 5], [5, 6]] # 特征
y = [0, 0, 1, 1, 1] # 目标变量
# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
# 创建梯度提升分类器模型
model = GradientBoostingClassifier()
# 拟合模型
model.fit(X_train, y_train)
# 预测
y_pred = model.predict(X_test)
# 计算准确率
accuracy = accuracy_score(y_test, y_pred)
print("准确率:", accuracy)
```
在这个例子中,我们使用了一个简单的二维特征和二分类的目标变量来训练梯度提升分类器模型。首先,我们导入所需的库。然后,我们准备了特征矩阵 `X` 和目标变量 `y`。接下来,我们使用 `train_test_split` 函数将数据集划分为训练集和测试集。然后,我们创建了一个 `GradientBoostingClassifier` 模型,并使用训练集进行拟合。然后,我们使用测试集进行预测,并计算预测结果的准确率。
这只是一个简单的示例代码,你可以根据自己的需求进行修改和扩展。如果你有任何其他问题,请随时问我。
阅读全文