随机森林评价指标重要性

随机森林是一种集成学习算法，它通过构建多个决策树并结合它们的预测结果来提高模型的稳定性和性能。每个决策树对数据集有独立的评估，并在最终模型中贡献其重要性的平均值。随机森林中的特征重要性通常通过计算每个特征被选作分割节点的次数来度量，这个过程称为“Gini importance”或“Permutation importance”。

1. Gini Importance（基尼增益重要性）：基于基尼系数，用于衡量一个特征对于减少混乱度（不确定度）的影响程度。特征的重要性越大，说明该特征对于分类决策的区分能力越强。

2. Permutation Importance（置换重要性）：这是一种统计检验方法，通过对单个特征的取值进行随机打乱，观察模型性能的变化来估计特征的重要程度。如果模型性能显著下降，那么这个特征就很重要。