层次聚类与划分聚类方法解析

"这篇文档详细介绍了层次聚类和基于划分的聚类方法，特别是k-聚类。层次聚类是一种构建聚类树的算法，它根据样本间的距离进行类别的合并，可以分为凝聚的层次聚类（自下而上）和分裂的层次聚类（自上而下）。在计算类与类之间的距离时，常用的方法有最短距离法、最长距离法、中间距离法和类平均法，其中类平均法因其优势而更受欢迎。此外，文档还提到了一些新的层次聚类算法，如BIRCH、ROCK和Chameleon，分别针对大数据量的数值型数据和类别型数据。" 在聚类分析中，层次聚类是一种重要的方法，它基于样本间距离的计算来构建一个层次结构，即聚类树（Dendrogram）。层次聚类有两种基本类型：凝聚型（Agglomerative）和分裂型（Divisive）。凝聚型层次聚类从单个样本开始，逐步合并相似的样本或类，直至所有样本归为一个大类，这通常称为自下而上的方法。相反，分裂型层次聚类从所有样本组成的大类开始，不断拆分类，直到每个样本独立成一类，这是自上而下的方法。 在选择合并策略时，层次聚类使用不同的Linkage方法，包括最短距离法（Single Linkage）、最长距离法（Complete Linkage）、中间距离法（Average Linkage）和类平均法（Ward's Method）。最短距离法将两个类的距离定义为它们之间样本的最小距离，而最长距离法则取最大距离。中间距离法是所有样本对间距离的平均值，类平均法则考虑了所有样本对的加权平均距离，通常被认为更为稳定且效果较好。 层次聚类的一个挑战是处理大数据集，BIRCH算法为此提供了解决方案。它利用树状结构预先对数据进行划分，随后结合其他聚类算法优化结果，适用于数值型数据。ROCK算法则专注于类别型属性数据的层次聚类。Chameleon算法引入动态建模，适应不同数据特性，其使用的Linkage方法可以更加灵活地适应数据的变化。 在实际应用中，选择合适的聚类方法和Linkage策略取决于数据的特性和分析目标。例如，如果需要发现紧密的子群，可能更适合使用最短距离法；而如果希望避免噪声和异常值的影响，类平均法可能是更好的选择。同时，对于大规模数据集，效率也是需要考虑的关键因素，可能需要采用如BIRCH这样的算法来优化计算过程。