【基础】文本聚类算法详解：K均值、层次聚类

# 1. 文本聚类算法概述**

文本聚类算法是一种无监督机器学习算法，用于将文本数据分组为具有相似特征的簇。它通过识别文本数据中的模式和相似性来工作，从而将相关的文档分组在一起。文本聚类算法在各种应用中发挥着至关重要的作用，包括信息检索、自然语言处理和数据挖掘。

# 2. K均值算法

### 2.1 K均值算法原理

K均值算法是一种无监督学习算法，用于将数据点划分为K个簇。它基于以下原理：

* 每个簇由一个称为质心的点表示。
* 每个数据点被分配到与它最接近的质心所属的簇。
* 质心被更新为簇中所有数据点的平均值。
* 这些步骤重复，直到质心不再改变或达到最大迭代次数。

### 2.2 K均值算法步骤

K均值算法的步骤如下：

1. **初始化：**随机选择K个数据点作为初始质心。
2. **分配：**将每个数据点分配到与它最接近的质心所属的簇。
3. **更新：**计算每个簇中所有数据点的平均值，并将其作为该簇的新质心。
4. **重复：**重复步骤2和步骤3，直到质心不再改变或达到最大迭代次数。

### 2.3 K均值算法优缺点

**优点：**

* 简单易懂，易于实现。
* 对于大数据集，计算效率高。
* 适用于各种数据类型。

**缺点：**

* 需要预先指定簇的数量K。
* 对初始质心的选择敏感。
* 对于非球形簇，聚类效果不佳。
* 无法处理噪声数据。

### 代码示例

import numpy as np
import matplotlib.pyplot as plt

# 数据集
data = np.array([[1, 2], [3, 4], [5, 6], [7, 8], [9, 10]])

# 初始化质心
centroids = np.array([[2, 2], [8, 8]])

# 最大迭代次数
max_iters = 100

# 迭代
for i in range(max_iters):
    # 分配数据点到簇
    clusters = np.argmin(np.linalg.norm(data - centroids.reshape(1, -1), axis=1))

    # 更新质心
    centroids = np.array([np.mean(data[clusters == i], axis=0) for i in range(2)])

# 可视化结果
plt.scatter(data[:, 0], data[:, 1], c=clusters, s=50)
plt.show()

**代码逻辑分析：**

* `np.argmin()` 函数用于计算每个数据点到所有质心的距离的最小值，并返回最小值所在质心的索引。
* `np.mean()` 函数用于计算每个簇中所有数据点的平均值。
* `np.linalg.norm()` 函数用于计算两个向量的欧几里得距离。
* `reshap