细粒度分类：基于混合专家的统一框架

“学习粒度特定专家的混合用于细粒度分类” 本文探讨的是细粒度视觉分类问题，这是一个旨在识别图像子类别的任务，如动物品种识别。在细粒度分类中，类间的差异往往很小，而类内的变化较大，加上多对象尺度和复杂背景，使得这类问题更具挑战性。为解决这些问题，作者提出了一种名为“学习粒度特定专家的混合”(Learning Granularity-Specific Experts for Mixtures, ME)的框架。 传统的混合专家(ME)模型基于神经网络，采用分区和征服的策略，将问题空间划分为多个子空间。然而，在细粒度分类中，由于可用训练数据有限，直接应用数据划分策略并不实际。为此，作者引入了一种新的方法，结合了专家渐进增强学习策略和基于Kullback-Leibler分歧的约束来促进专家之间的多样性。 这一策略允许新专家在已有专家知识的基础上学习，并逐步加入到模型中。通过Kullback-Leibler分歧约束，确保新专家与已有专家的预测分布不同，促使每个专家关注问题的不同方面，从而更专注于特定的子空间问题。这种方法有助于提升模型的分类性能，实现在几个细粒度基准数据集上的先进表现。 文章结构如图1所示，包括多个专家和一个门控网络。门控网络的作用是决定每个专家对最终预测的贡献比例。专家之间通过学习和协作，共同处理复杂的细粒度识别任务，而门控网络则负责协调这些专家，确保整体分类效果的优化。 该研究通过创新的混合专家框架，有效地解决了细粒度分类中的数据限制和复杂性问题，提高了模型的泛化能力和分类准确性。这种多样性驱动的专家学习方法为未来在有限数据条件下提升机器学习模型性能的研究提供了新的思路。