基于特征的知识蒸馏算法流程

1. 准备数据集：准备源模型和目标模型需要用到的数据集。
2. 训练源模型：使用数据集训练一个高性能的源模型。
3. 提取特征：在源模型上提取出目标模型需要的特征。
4. 训练目标模型：使用提取出的特征来训练一个轻量级的目标模型。
5. 蒸馏知识：将源模型的知识蒸馏到目标模型中，让目标模型具备源模型的能力。
6. 评估目标模型：对目标模型进行评估，看其性能是否达到预期。
7. Fine-tuning（可选）：如果目标模型性能不满足要求，可以进行Fine-tuning，继续优化目标模型。