lightgbm调参

### 关于 LightGBM 参数调优的最佳实践

#### 调整树结构参数以优化性能
为了提高模型精度并防止过拟合，可以调整与树结构相关的参数。增加 `min_data_in_leaf` 和 `min_sum_hessian_in_leaf` 可以帮助控制每棵树的复杂程度，从而降低过拟合风险[^2]。

import lightgbm as lgb

params = {
    'objective': 'binary',
    'metric': 'auc',
    'boosting_type': 'gbdt',
    'num_leaves': 31,
    'learning_rate': 0.05,
    'feature_fraction': 0.9,
    'bagging_fraction': 0.8,
    'bagging_freq': 5,
    'verbose': 0,
    'min_child_samples': 20,        # min_data_in_leaf
    'min_child_weight': 0.001       # min_sum_hessian_in_leaf
}

#### 使用早停法加速训练过程
当验证集上的表现不再改善时提前停止训练能够节省时间，并有助于找到最佳迭代次数。设置合适的 `early_stopping_rounds` 是一种有效的手段来自动确定最优轮数而不会过度拟合训练数据。

train_set = lgb.Dataset(X_train, y_train)
valid_sets = [train_set, lgb.Dataset(X_valid, y_valid)]
model = lgb.train(params, train_set, valid_sets=valid_sets, early_stopping_rounds=10)

#### 减少特征和样本数量的影响
通过调节 `feature_fraction` 和 `bagging_fraction` 来随机采样部分特征或样本参与每次分裂决策，这不仅增加了模型泛化能力还提高了效率。

# 上面代码片段中的 params 已经包含了 feature_fraction 和 bagging_fraction 设置

#### 利用硬件资源加快计算速度
对于大规模数据集来说，充分利用可用硬件非常重要。可以通过启用多线程或多节点集群以及GPU版本的支持来显著缩短训练时间和提升吞吐量。

# 安装带有 GPU 支持的 LightGBM 版本
pip install lightgbm --install-option="--gpu"