使用sklearn中的KNN算法进行分类和回归

K-最近邻(K-Nearest Neighbors, KNN)算法是一种基于实例的学习方法，它主要用于分类和回归问题。在sklearn库中，你可以通过`KNeighborsClassifier`和`KNeighborsRegressor`这两个类来分别实现。

1. **分类**：对于分类任务，你需要创建一个`KNeighborsClassifier`对象，并指定邻居的数量（即k值）。当你有新的数据点需要预测类别时，算法会找到训练集中与其最相似的k个样本，然后根据这k个样本的类别多数投票结果确定新数据点的类别。

   from sklearn.neighbors import KNeighborsClassifier
   knn = KNeighborsClassifier(n_neighbors=5)
   knn.fit(X_train, y_train)
   prediction = knn.predict(X_test)

2. **回归**：在回归任务中，`KNeighborsRegressor`用于估计目标变量。同样，你需要设置k值，新的数据点会被分配到其k个最近邻居的平均值或某个其他统计量上。

   from sklearn.neighbors import KNeighborsRegressor
   knn_regressor = KNeighborsRegressor(n_neighbors=3)
   knn_regressor.fit(X_train, y_train)
   regression_output = knn_regressor.predict(X_test)