sklearn中的knn算法

在scikit-learn（sklearn）中，K最近邻（K-Nearest Neighbors，简称KNN）是一种常用的监督学习算法，用于分类和回归问题。KNN算法的基本思想是根据样本之间的距离来进行分类或回归预测。

KNN算法的工作原理如下：
1. 计算测试样本与训练样本之间的距离，常用的距离度量方法有欧氏距离、曼哈顿距离等。
2. 选择K个最近邻样本，即与测试样本距离最近的K个训练样本。
3. 对于分类问题，根据K个最近邻样本的标签进行投票，选择出现次数最多的类别作为测试样本的预测类别。
4. 对于回归问题，根据K个最近邻样本的标签进行加权平均，将平均值作为测试样本的预测值。

sklearn中的KNN算法可以通过`sklearn.neighbors`模块中的`KNeighborsClassifier`和`KNeighborsRegressor`类来实现。其中，`KNeighborsClassifier`用于分类问题，`KNeighborsRegressor`用于回归问题。

以下是使用sklearn中的KNN算法的一些步骤：
1. 导入所需模块和数据集：

from sklearn.neighbors import KNeighborsClassifier
from sklearn.model_selection import train_test_split
from sklearn.datasets import load_iris

# 加载鸢尾花数据集
iris = load_iris()
X, y = iris.data, iris.target

2. 划分训练集和测试集：

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

3. 创建KNN分类器对象并进行训练：

knn = KNeighborsClassifier(n_neighbors=3)
knn.fit(X_train, y_train)

4. 进行预测：

y_pred = knn.predict(X_test)

5. 评估模型性能：

accuracy = knn.score(X_test, y_test)