knn算法中距离计算公式

K-最近邻（K-Nearest Neighbors, KNN）算法是一种基于实例的学习方法，用于分类和回归问题。在KNN中，新数据点的分类或预测值取决于其与训练集中最相似的K个邻居的类别或目标值的多数决定。至于距离计算，通常使用几种常见的度量方法，其中最常用的是：

1. **欧氏距离** (Euclidean Distance): 对于二维或更高维度的数据，这是最基本的计算方法，公式为：
\[ d = \sqrt{(x_1-y_1)^2 + (x_2-y_2)^2 + ... + (x_n-y_n)^2} \]

2. **曼哈顿距离** (Manhattan Distance) 或 **城市街区距离**: 对于每个维度，直接求绝对差，不考虑方向：
\[ d = |x_1-y_1| + |x_2-y_2| + ... + |x_n-y_n| \]

3. **切比雪夫距离** (Chebyshev Distance): 取各个维度的最大差异：
\[ d = \max(|x_1-y_1|, |x_2-y_2|, ..., |x_n-y_n|) \]

4. **余弦相似度** (Cosine Similarity): 当处理文本或向量数据时，衡量的是两个向量的角度，而不是大小：
\[ d = 1 - \frac{\mathbf{A} \cdot \mathbf{B}}{\|\mathbf{A}\| \cdot \|\mathbf{B}\|} \]
其中A和B是两个向量。

选择哪种距离度量取决于具体问题和数据的特性。例如，如果数据有明显的稀疏性，曼哈顿距离可能更合适；而当特征之间的重要性相等时，欧氏距离通常表现较好。