k近邻算法 sklearn实现

k近邻算法是一种常用的无监督学习算法。它可以用来预测一个新的数据点所属的类别或者数值。在sklearn中，可以使用KNeighborsClassifier和KNeighborsRegressor来实现k近邻算法。

KNeighborsClassifier适用于分类问题，KNeighborsRegressor适用于回归问题。它们的使用方法类似，主要区别在于输入的数据类型和输出的结果类型。

下面是一个简单的示例，演示如何使用KNeighborsClassifier实现分类任务：

from sklearn.neighbors import KNeighborsClassifier
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split

# 加载数据集
iris = load_iris()
X = iris.data
y = iris.target

# 划分数据集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# 创建模型对象
knn = KNeighborsClassifier(n_neighbors=3)

# 拟合模型
knn.fit(X_train, y_train)

# 预测结果
y_pred = knn.predict(X_test)

# 计算准确率
accuracy = knn.score(X_test, y_test)
print('Accuracy:', accuracy)

在这个示例中，首先使用load_iris函数加载鸢尾花数据集，然后利用train_test_split函数划分数据集。然后，创建KNeighborsClassifier对象，并将n_neighbors参数设置为3。接下来，使用fit方法拟合模型，并使用predict方法预测结果。最后，使用score方法计算模型的准确率。

需要注意的是，k近邻算法的效果很大程度上取决于k值的选择。通常，k的值越大，模型越简单，但是容易欠拟合；k的值越小，模型越复杂，但是容易过拟合。因此，需要通过交叉验证等方法来选择最优的k值。