决策树回归网格优化调参代码python
决策树回归是一种基于树结构的预测模型,用于解决回归问题。为了优化决策树的性能,特别是在选择最佳划分特征时,我们通常会对模型参数进行网格搜索(Grid Search),这是一种遍历预定义参数组合的技术。
在Python中,我们可以使用sklearn库中的GridSearchCV
函数结合DecisionTreeRegressor
来进行网格搜索。这里是一个简单的例子:
```python from sklearn.tree import DecisionTreeRegressor from sklearn.model_selection import GridSearchCV import numpy as np
定义参数网格
param_grid = { 'max_depth': [None, 5, 10, 15], # 森林最大深度 'min_samples_split': [2, 5, 10], # 划分节点所需的最小样本数 'min_samples_leaf': [1, 2, 4] # 叶子节点所需的最小样本数 }
初始化决策树回归器
tree_reg = DecisionTreeRegressor()
创建网格搜索对象
grid_search = GridSearchCV(tree_reg, param_grid, cv=5) # 使用交叉验证
使用数据拟合网格搜索
X_train, y_train = ... # 提供训练数据 grid_search.fit(X_train, y_train)
获取最佳参数和最优模型
best_params = grid_search.best_params_ best_tree_reg = grid_search.best_estimator_
打印结果
print(f"Best parameters found: {best_params}") print(f"Best model score: {grid_search.best_score_}")
相关推荐


















