R语言 使用lgb.train()函数进行超参数寻优，并根据最小的RMSE值筛选最优参数

R语言中使用LightGBM (LGBM) 进行超参数优化通常会配合`gridsearch`或`caret`这样的包来进行模型训练和参数调整。`lgb.train()`函数本身并不直接提供超参数优化功能，但我们可以通过以下步骤实现：

1. 首先，安装必要的库，如`lightgbm`和`mlr`或`tidymodels`家族。

install.packages("lightgbm")
install.packages("mlr")
# 或者对于tidymodels
install.packages("tidyverse")
install.packages("tune")

2. 然后，你可以使用`tidymodels`中的`tune()`包或者`mlr`中的`resample()`和`GridSearch`来进行参数搜索。例如，假设我们有一个数据集`df`，目标变量是`target`，可以这样做：

library(tidyverse)
library(lightgbm)
library(tune)

data <- df[, -c(target_column)] # 假设target_column是目标列名

# 定义参数空间
param_grid <- tibble(
  objective = c("regression", "mse"),     # 目标函数
  learning_rate = seq(0.05, 0.3, by = 0.05),   # 学习率
  num_leaves = seq(16, 128, by = 16),        # 叶子节点数
  max_depth = seq(4, 20, by = 2)            # 最大深度
)

# 使用 tidymodels 的 tune_grid()
model_tuning <- tune_grid(
  task = train(target ~ ., data = data, method = "lgbm"),
  grid = param_grid,
  resamples = rsmp_train_test()         # 划分训练集和测试集
)

# 找到最小 RMSE 的参数组合
best_params <- model_tuning %>%
  slice(which.min(mae)) %>%
  pull(params)

3. 最后，使用`best_params`中的参数训练最终模型：

final_model <- lgbm(
  target ~ .,
  data = data,
  params = best_params,
  quiet = TRUE
)

# 计算最终模型的RMSE
predictions <- predict(final_model, new_data = df[, target_column])
rmse_value <- sqrt(mean((df$target - predictions)^2))