除了GridSearchCV，还有哪些常见的超参数调整方法？

除了GridSearchCV，还有一些常见的超参数调整方法：

1. **RandomizedSearchCV**：这种方法会在给定的参数范围内随机采样一组超参数组合，而不是像GridSearchCV那样穷举所有可能的组合。这可以在高维空间中节省计算时间，尤其当参数数量较大时。

   from sklearn.model_selection import RandomizedSearchCV

   random_search = RandomizedSearchCV(model, param_distributions, n_iter=100, cv=5)
   random_search.fit(X_train, y_train)

2. **Bayesian Optimization**：这是一种基于概率的优化方法，通过构建目标函数的概率模型来寻找最佳超参数。由于它不是遍历所有可能的值，所以在高维度空间中也较为高效。

3. **Hyperopt 或 Optuna**：这两个库提供了高级的超参数搜索算法，比如基于树的结构化搜索和贪心策略。它们可以自动探索复杂的超参数空间。

4. **Ensemble Methods**：一些方法（如Stacking或Ensembling）可能会在不同的超参数下训练多个模型，然后集成它们的结果，这种方式间接地影响了超参数的选择。

每种方法都有其适用场景，选择哪种取决于问题的复杂度、可用资源以及对精度的需求。一般来说，如果需要快速原型设计，RandomizedSearchCV可能是个不错的选择；如果时间充裕，可以尝试更复杂的优化算法。