K最近邻算法多分类算法

K最近邻（K-Nearest Neighbors，KNN）算法是一种常用的多分类算法。它基于样本之间的距离来进行分类，具体操作如下：

1. 计算距离：对于测试样本，计算它与训练集中每个样本的距离。常见的距离度量方法有欧氏距离、曼哈顿距离等。

2. 选择K个最近邻：根据距离，选择与测试样本最近的K个训练样本。

3. 进行投票或求平均：根据K个最近邻样本的标签，进行投票决策或求平均值，得到测试样本的分类结果。

以下是一个使用K最近邻算法进行多分类的Python代码示例：

from sklearn.neighbors import KNeighborsClassifier
import pandas as pd
from sklearn.model_selection import train_test_split

# 读取数据集
data = pd.read_csv('final_data1.csv')
Y = data.y
X = data.drop('y', axis=1)

# 数据集划分为训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, Y, test_size=0.2, random_state=42)

# 创建并训练KNN分类器
knn = KNeighborsClassifier(n_neighbors=3)  # 设置K值为3
knn.fit(X_train, y_train)

# 在测试集上进行预测
y_pred = knn.predict(X_test)

上述代码使用了`sklearn`库中的`neighbors`模块，通过导入`KNeighborsClassifier`创建了一个K最近邻分类器对象`knn`。在创建分类器对象时，通过参数`n_neighbors`设置了K的值为3。然后使用训练集数据`X_train`和对应的标签`y_train`调用`knn.fit()`方法进行训练。最后，使用训练好的模型在测试集数据`X_test`上进行预测，预测结果存储在`y_pred`中。

需要注意的是，KNN算法的性能很大程度上依赖于选择合适的K值和距离度量方法。在实际应用中，可以使用交叉验证等方法来选择最佳的K值，并根据数据集的特点选择合适的距离度量方法。