随机森林与决策树的原理、区别，可调参数、及如何调参

随机森林（Random Forest）是一种集成学习算法，它是由多个决策树组成的。每个决策树都是独立训练的，并对数据集进行随机抽样（有放回），生成多个特征子集和样本子集，以此降低过拟合风险。最终，随机森林通过投票（对于分类任务）或平均（回归任务）所有决策树的结果来做出预测。

决策树则是单个模型，它通过一系列判断条件（属性测试）将数据划分成越来越小的子集，直到达到某个停止条件（如叶子节点数、最小样本数等）。决策树可以直观地表示规则，易于理解和解释。

两者的区别主要在于：
1. **模型复杂度**：决策树容易过拟合，而随机森林通过组合多个树降低过拟合。
2. **稳定性**：随机森林基于多数表决更稳定，个体树的重要性较低。
3. **效率**：单棵树构建速度快，但随机森林计算稍慢但并行化较好。

关于可调参数：
1. **树的数量（n_estimators）**：随机森林的核心参数，越多的树通常性能越好，但计算成本增加。
2. **样本抽取比例（max_samples）**：用于创建每棵树的数据子集大小，可以选择`sqrt`或`log2`减少计算量。
3. **特征选择策略（max_features）**：每个节点选择多少个特征，常用的是`auto`、`sqrt`和`None`（全部）。
4. **树的深度（max_depth）**：限制树的最大分支级别，防止过深导致过拟合。

调参通常采用交叉验证（如Grid Search或Randomized Search）结合评估指标（如准确率、AUC、R方等），尝试不同参数组合找到最优设置。例如：

from sklearn.model_selection import GridSearchCV
param_grid = {
    'n_estimators': [50, 100, 200],
    'max_features': ['auto', 'sqrt', 'log2'],
    'max_depth': [None, 10, 20]
}
grid_search = GridSearchCV(RandomForestClassifier(), param_grid, cv=5)
grid_search.fit(X_train, y_train)
best_params = grid_search.best_params_