梯度提升回归python
时间: 2023-10-15 11:05:18 浏览: 81
梯度提升树的微型纯Python实现。.zip
梯度提升回归(Gradient Boosting Regression)是一种基于决策树的集成学习算法,通过迭代地训练多个决策树模型来拟合数据集的残差,从而最小化损失函数。在Python中,我们可以使用scikit-learn库来实现梯度提升回归。
下面是一个使用Python和scikit-learn进行梯度提升回归的示例代码:
```python
from sklearn.ensemble import GradientBoostingRegressor
from sklearn.metrics import mean_squared_error
from sklearn.model_selection import train_test_split
import numpy as np
# 准备数据集
X = np.array([[1], [2], [3], [4], [5]])
y = np.array([2,4, 6, 8, 10])
# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
# 创建梯度提升回归模型
model = GradientBoostingRegressor()
# 拟合训练集
model.fit(X_train, y_train)
# 在测试集上进行预测
y_pred = model.predict(X_test)
# 计算均方误差
mse = mean_squared_error(y_test, y_pred)
print("均方误差:", mse)
```
阅读全文