xgboost基于增益的特征重要性(gain)计算公式

XGBoost基于增益的特征重要性计算公式如下：

$Gain=\frac{1}{2}[\frac{G_L^2}{H_L+\lambda}+\frac{G_R^2}{H_R+\lambda}-\frac{(G_L+G_R)^2}{H_L+H_R+\lambda}] - \gamma$

其中，$G_L$和$G_R$分别为左子树和右子树的梯度和，$H_L$和$H_R$分别为左子树和右子树的Hessian矩阵和，$\lambda$为正则化项系数，$\gamma$为阈值参数。

XGBoost通过计算每个特征在所有树中的平均增益，来评估特征的重要性。特征的重要性得分越高，代表该特征对于模型的预测能力越强。