特征提取与选择：次优搜索法与类别可分性判据详解

本章节深入探讨了"增添特征法"在第七章特征提取与选择中的应用，主要关注于提高模式识别的效率和准确性。特征提取与选择是模式识别过程中的关键环节，它涉及到如何从原始特征中选取最具代表性和区分度的特征，以降低数据维度并优化分类性能。 首先，概述部分强调了模式识别的三大核心问题，即特征数据采集、分类识别和特征提取与选择。特征提取与选择被看作是对象表示的重要步骤，直接影响分类的正确率。其目标是在保持信息有效性的同时，通过最小的特征维数实现类内距离的减小和类间距离的增大，从而增强模式间的区分度。 两种基本的特征提取与选择途径被介绍：直接选择法和变换法。直接选择法在给定特征数量d的情况下，从原始特征中选择最优组合，最大化可分性判据J，使得分类性能最优。变换法则是在保持或提升可分性的同时，通过数学变换将原始特征映射到低维空间，以减少复杂度。 类别可分性判据是评估特征选择效果的重要工具，它应该与误判概率相关，并在特征独立时具有可加性。这种判据的设计旨在衡量特征对于正确分类的贡献，帮助选择最有价值的特征组合。 此外，还提到了几种具体的特征选择方法，如基于可分性判据、误判概率的特征选择、离散K-L变换法(DKLT)以及基于决策界的特征选择。这些方法各有优势，适用于不同的应用场景，能够根据任务需求灵活选用。 总结来说，第七章"增添特征法"中的特征提取与选择是通过策略性的特征选择和变换，提升模式识别系统的性能，确保在有限的特征维度下，有效地实现模式的区分和分类。理解并掌握这些方法，对于实际的机器学习和数据分析项目至关重要。