简述 K 均值方法的基本思想? K均值方法有哪些局限性? 简述层次聚类的基本思想?

K均值方法的基本思想是将数据集中的所有样本划分为K个簇，每个簇都具有一个质心，即簇中所有样本的平均值。该算法的过程可以描述为：
1. 随机选择K个样本作为初始质心；
2. 计算每个样本与K个质心的距离，并将其划分到距离最近的簇中；
3. 更新每个簇的质心；
4. 重复步骤2-3，直到质心不再发生变化或达到预定的迭代次数。

K均值方法的局限性包括：
1. 对初始质心的选取非常敏感，可能会导致陷入局部最优解；
2. 对于非凸的簇结构，可能会将其划分为多个簇；
3. 对于不同大小、不同密度的簇结构，效果不佳。

层次聚类的基本思想是通过不断合并或分裂簇，形成一棵树形结构，称为谱系聚类树。该算法的过程可以描述为：
1. 将每个数据点看作一个独立的簇；
2. 计算所有簇之间的距离或相似度，并将其表示为距离矩阵或相似度矩阵；
3. 根据距离矩阵或相似度矩阵，合并距离最近或相似度最高的两个簇；
4. 重复步骤2-3，直到所有数据点被合并为一个簇或达到预定的簇数量。

层次聚类的优点是可以不用事先确定簇的数量，同时可以通过谱系聚类树进行可视化分析。其缺点是计算复杂度较高，对于大规模数据集效率较低。