尺度等效蒸馏提升半监督目标检测性能：解决假阴性与类不平衡问题

本文主要探讨了在深度学习框架下的半监督目标检测（SS-OD）领域中，尤其是针对最近的自我训练方法所面临的一些关键挑战。现有的SS-OD方法依赖于教师模型生成硬伪标签来指导未标记数据的学习，然而，由于有限的标注数据量，这些方法在处理大规模方差、假阴性样本识别和位置精度等问题上显得力不从心。 首先，作者指出在半监督学习环境下，大规模的目标检测任务中，有限的标记数据导致了挑战的加剧。实验结果揭示了两个主要问题：一是大量的假阴性样本，即模型未能正确识别的对象，这会降低模型的整体性能；二是定位精度不足，这对精确的物体检测至关重要。 其次，物体大小的显著差异和类不平衡问题也对现有技术构成了挑战。背景与物体之间的极端比例使得模型难以区分两者，从而影响了检测性能。为解决这些问题，研究者提出了一个新的方法——尺度等效蒸馏（Scale-Equivalent Distillation，SED）。SED是一个端到端的知识蒸馏框架，其设计巧妙地应对了这两个难点。 SED的优势在于它引入了以下几个创新点： 1. **一致性正则化**：通过这种方式，SED能够有效地管理大规模方差，确保模型在不同尺度的对象上都能保持一致的性能。 2. **处理假阴性和定位精度**：SED通过某种机制缓解了假阴性样本带来的噪声问题，并提升了模型在位置预测方面的准确性。 3. **重采样策略**：SED采用了重新加权策略，能够自动筛选并优先关注未标记数据中可能具有前景的区域，从而减轻类不平衡对模型的影响。 经过广泛的实验验证，Scale-Equivalent Distillation在各种数据集上表现出色，特别是在MS-COCO等常用基准上，即使使用极少量的标记数据（如10%或5%），也能显著提升相对于监督学习方法的平均精度（mAP），证明了其在半监督目标检测领域的显著优势。因此，SED提供了一个有效的解决方案，对于推动半监督目标检测技术的发展具有重要的实践价值。