GridSearchCV adaboost

GridSearchCV 是一个用于自动调节模型超参数的工具。在 Adaboost 模型中，我们可以使用 GridSearchCV 来搜索最佳的超参数组合。

首先，我们需要指定要搜索的参数组合。在这个示例中，我们使用了两个参数：n_estimators 和 learning_rate。n_estimators 表示要使用的基础分类器的数量，learning_rate 表示每个基础分类器的权重。

接下来，我们将参数组合传递给 GridSearchCV 函数，并在训练数据上调用 fit 方法来训练模型。GridSearchCV 会自动尝试不同的参数组合，并使用交叉验证来评估每个组合的性能。

最后，我们可以在验证集上调用 predict 方法来进行预测，并得到最佳超参数组合下的模型性能。

示例代码如下：

from sklearn.model_selection import GridSearchCV
from sklearn.ensemble import AdaBoostClassifier

param_grid = {
    'n_estimators': [50, 100, 200],
    'learning_rate': [0.1, 0.5, 1.0]
}

adaboost = AdaBoostClassifier()
grid_search = GridSearchCV(adaboost, param_grid, cv=5)
grid_search.fit(X_train, y_train)

best_params = grid_search.best_params_
best_score = grid_search.best_score_

y_pred = grid_search.predict(X_test)

以上代码将在 Adaboost 模型中搜索 n_estimators 参数为 50、100、200 和 learning_rate 参数为 0.1、0.5、1.0 的组合。然后通过五折交叉验证来评估每个组合的性能。最后，返回最佳的超参数组合 best_params 和对应的模型性能 best_score，以及在测试集上的预测结果 y_pred。