优化阈值与分类器以最大化F1分数

"这篇论文探讨了在二分类和多标签分类任务中如何通过调整阈值最大化F1分数。F1分数是评估罕见类别分类性能的常用指标，它是由精确率和召回率的调和平均值构成。在多标签分类中，有微平均、宏平均和每个实例平均的F1分数。作者揭示了对于任何产生实值输出的分类器，最佳F1分数与实现这一最优值的决策阈值之间的关系。特别地，如果分类器输出的是良好的条件概率，那么最优阈值是最佳F1分数的一半。另一方面，如果分类器完全没有信息性，最优策略是将所有样本都分类为正类。实际正例的流行率通常会影响最佳阈值的选择。" 本文深入研究了如何优化二元分类和多标签分类中的F1分数，这是衡量分类器性能的重要指标，尤其是在处理不平衡数据集时。F1分数综合考虑了精确率（Precision）和召回率（Recall），对于稀有类别的识别尤其关键。在多标签分类中，可以使用不同类型的平均F1分数来评估模型性能，包括微平均（Micro-average）、宏平均（Macro-average）和每个实例平均（Per-instance average）。 论文提出，对于任何给出连续输出的分类器，存在一个最佳的阈值，使得F1分数达到最大。这个阈值的选择依赖于分类器的输出特性。例如，如果分类器能够输出准确的条件概率，即输出值代表样本属于正类的概率，那么最佳阈值是最佳F1分数的一半。这种情况下，通过调整阈值，可以在保持精确率和召回率之间平衡，从而最大化F1分数。 另一方面，如果分类器没有提供任何有用信息，即其输出与真实类别无关，那么最佳策略是将所有样本都预测为正类，这会得到100%的召回率，但精确率可能很低，具体取决于数据集中正例的比例。实际上，真实场景中正例的分布（即阳性样本的预估比例）会显著影响最佳阈值的选取，因为选择阈值的目标是最大化F1分数，而F1分数是对精确率和召回率的综合权衡。 该论文为优化分类器性能提供了理论基础，指导了在面对不同情况时如何选择合适的阈值，以提高模型对罕见或不平衡类别的识别能力。这对于开发和评估实际应用中的机器学习模型具有重要意义。