xgb.XGBRegressort 网格法

XGBoost (eXtreme Gradient Boosting) 是一种常用的机器学习算法，XGBRegressor 是 XGBoost 库中用于回归问题的模型。网格搜索法是一种超参数调优的方法，用于寻找最优的模型参数组合。在 XGBRegressor 中，可以使用网格搜索法来寻找最佳的模型超参数。

网格搜索法通过指定一组候选的超参数值，对每一组超参数值进行训练和评估，最后选择在验证集上表现最好的超参数组合作为最终的模型参数。在使用网格搜索法时，需要定义要搜索的超参数范围和候选值，然后通过交叉验证或其他评估指标来选择最佳的超参数组合。

在使用 XGBRegressor 进行网格搜索时，可以使用 GridSearchCV 类来实现。通过指定要搜索的超参数范围和候选值，以及评估指标，GridSearchCV 会自动进行参数搜索和模型训练，最后返回最佳的模型参数组合。

以下是使用 XGBRegressor 和网格搜索法进行回归模型参数搜索的示例代码：

from xgboost import XGBRegressor
from sklearn.model_selection import GridSearchCV

# 定义超参数范围和候选值
param_grid = {
    'n_estimators': [100, 200, 300],
    'max_depth': [3, 4, 5],
    'learning_rate': [0.1, 0.01, 0.001]
}

# 创建 XGBRegressor 模型
model = XGBRegressor()

# 创建 GridSearchCV 对象
grid_search = GridSearchCV(estimator=model, param_grid=param_grid, scoring='neg_mean_squared_error')

# 执行参数搜索和模型训练
grid_search.fit(X_train, y_train)

# 输出最佳参数和最佳评估指标
print("Best parameters: ", grid_search.best_params_)
print("Best score: ", -grid_search.best_score_)

在上述代码中，定义了三个超参数（n_estimators、max_depth 和 learning_rate）的范围和候选值。然后创建了一个 XGBRegressor 模型和一个 GridSearchCV 对象。最后通过调用 `fit` 方法执行参数搜索和模型训练，输出最佳的参数组合和最佳评估指标。