lightgbm 预测概率

LightGBM是一个常用的机器学习算法库，在许多实际应用中都非常有用。它是一种基于决策树的梯度提升框架，用于训练和推理各种机器学习任务。LightGBM开发的第一个目标是实现高效和可扩展性。

首先，需要说明一下预测概率与预测输出值的区别。在二分类问题中，预测输出值是0或1，表示模型判断样本所属类别；而预测概率则表示模型对样本属于某一类别的概率，其值范围在0-1之间，可以用来计算ROC曲线、AUC值等模型评价指标。

在LightGBM中，预测输出值可以通过predict()函数得出。而对于预测概率，则需要使用predict_proba()函数。该函数返回一个二维数组，其中第一列表示样本属于类别0的概率，第二列表示样本属于类别1的概率。以二分类问题为例，可以使用以下代码获取样本属于类别1的概率：

model.predict_proba(X_test)[:, 1]

其中，X_test是测试集的特征矩阵。需要注意的是，在训练模型时需要设置参数objective='binary'，才能得到正确的概率值。如果使用默认值objective='regression'，则predict_proba()函数会返回预测输出值。

此外，还可以通过修改参数is_unbalance=True或使用scale_pos_weight来设置样本不平衡的权重，以提高模型对少数类别的预测准确率。例如：

params = {'objective':'binary', 'is_unbalance':True}

或

params = {'objective':'binary', 'scale_pos_weight':n_negative_samples/n_positive_samples}

需要根据实际情况进行调整。在使用预测概率进行模型评价时，可以根据实际需要选择适当的阈值来进行分类，常见的有0.5、0.7等。此外，还可以根据样本分布情况和业务需求等因素，选择其他适合的评价指标来评估模型性能。