基于熵排序优化的NJW谱聚类算法：特征向量选择提升性能

"基于熵排序的优化谱聚类算法是一篇研究论文，主要针对NJW谱聚类方法进行改进，以提高聚类性能。NJW算法是谱聚类中的一个流行算法，特别在图像分割领域表现出色，但它的问题在于当特征向量包含不相关维度时，可能无法充分捕捉数据结构。 文章的核心贡献在于提出了一种基于熵排序的选择策略，即通过评估特征向量的不确定性或信息熵来选择最重要的k个特征向量。熵是一种衡量随机变量不确定性的度量，高熵表示信息的混乱程度，而在聚类中，选择低熵的特征向量有助于突出数据的关键区分信息。 具体步骤如下： 1. 亲和矩阵构建：首先，根据给定的数据集，如X={x1, x2,..., xn}，构建一个n*n的矩阵，其中Aij代表两个数据点i和j之间的相似度，通常使用高斯函数公式1来定义这个矩阵。 2. 矩阵标准化：计算对角矩阵D，其元素为行和，然后对亲和矩阵进行标准化，使其成为概率分布。 3. 特征向量分析：构建L矩阵，即拉普拉斯矩阵，它是亲和矩阵和对角矩阵之差的负逆。接下来，选取L矩阵的前k个最大特征值对应的特征向量，这些向量用于表示数据的低维表示，并进行后续的聚类。 4. 熵排序特征向量选择：利用熵的概念，对特征向量的熵进行排序，选择那些信息量最大的特征向量，以减少噪声和冗余信息的影响，提升聚类的精确性。 5. 优化后的谱聚类：通过熵排序选出的k个关键特征向量，对数据进行重新聚类，期望得到更有效的、更具代表性的聚类结果，同时保留数据的内在结构。 这篇论文提供了一种新颖的特征选择策略，旨在解决传统谱聚类中由于特征冗余导致的聚类效果不佳的问题，对于处理大规模、高维且特征间相关性弱的数据集具有重要意义。通过这种方法，作者们能够在保证聚类质量的同时，显著降低计算复杂性和内存需求，从而在实际应用中提高了谱聚类算法的效率和性能。"