knn算法中的距离度量

在KNN（K-Nearest Neighbors，K近邻）算法中，距离度量是一个关键步骤，它决定了两个样本之间的“相似”程度。常用的几种距离度量有：

1. **欧氏距离**（Euclidean Distance）：这是最直观的距离，适用于数值特征。计算公式为各维度差的平方和开根号，对于二维空间里的两点（x1, y1）和（x2, y2），距离为sqrt((x2-x1)^2 + (y2-y1)^2)。

2. **曼哈顿距离**（Manhattan Distance）：也称为城市街区距离，适合于网格状数据结构。它是各个坐标轴上距离之和，对于二维空间，距离为|x2-x1| + |y2-y1|。

3. **切比雪夫距离**（Chebyshev Distance）：对于数值特征，当某些特征差异较大时，使用这种方法，它只考虑最大绝对偏差。距离等于各维度最大值的差。

4. **余弦相似度**（Cosine Similarity）：适用于文本、向量等离散特征，计算两个向量方向上的夹角余弦值，常用于推荐系统和自然语言处理。

5. **汉明距离**（Hamming Distance）：专用于二进制数据，计算对应位置上不同元素的数量。

选择哪种距离度量取决于数据的特点和应用场景。例如，欧氏距离对于连续特征比较合适，而余弦相似度则适用于判断两个文本的相似性。