knn算法python编程

### 实现KNN算法的Python教程

#### 导入必要的库
为了实现K近邻(K-Nearest Neighbors, KNN)算法，需要导入一些重要的库来处理数据并执行模型训练。这些库包括`sklearn.neighbors`用于访问KNN分类器，`GridSearchCV`用于超参数调优，还有`MinMaxScaler`来进行特征缩放。

from sklearn import neighbors
from sklearn.model_selection import GridSearchCV
from sklearn.preprocessing import MinMaxScaler
scaler = MinMaxScaler(feature_range=(0, 1))

这段代码初始化了一个最小最大缩放器(`MinMaxScaler`)实例，它将会把所有的数值型特征转换到指定范围内，在这里是(0, 1)[^1]。

#### 数据预处理
在应用任何机器学习算法之前，通常要对原始数据集做一定的清理工作，比如去除缺失值、异常检测等；接着就是标准化/规范化操作，这一步骤对于距离度量非常敏感的方法尤为重要，像KNN这样的方法就属于此类情况之一。通过上述引入的`MinMaxScaler`可以完成这一目标[^2]。

#### 构建与优化模型
创建一个基于网格搜索(Grid Search)机制寻找最佳参数组合的过程可以帮助找到最优配置下的KNN模型：

parameters = {'n_neighbors': range(1, 30)}
knn = neighbors.KNeighborsClassifier()
grid_search = GridSearchCV(estimator=knn, param_grid=parameters)
grid_search.fit(X_train_scaled, y_train)

best_knn_model = grid_search.best_estimator_
print(f"The best number of neighbors is {grid_search.best_params_['n_neighbors']}")

这里定义了一系列可能的邻居数量作为候选选项，并利用交叉验证技术评估不同设置下模型的表现，最终选取表现最好的那个作为正式使用的版本。

#### 测试预测效果
当得到了经过良好调整后的KNN模型之后就可以用来对未来未知样本做出类别归属判断了。下面给出了一段简单的测试样例说明如何输入新数据给定其所属标签的可能性分布状况:

new_data_points = [[1.2, 1.0], [0.1, 0.3]]
scaled_new_data = scaler.transform(new_data_points)
predictions = best_knn_model.predict(scaled_new_data)
for data_point, prediction in zip(new_data_points, predictions):
    print(f'Your input is:{data_point} and classified to class:{prediction}')

此部分展示了怎样准备新的观测值并通过已训练好的模型获取它们对应的分类结果[^3]。