python 自定义knn

在Python中，K近邻算法（K-Nearest Neighbors，简称KNN）是一种基本的机器学习分类和回归方法，它通过测量样本之间的距离来进行预测。自定义KNN的基本步骤通常包括：

1. **数据预处理**：收集数据并对其进行清洗、标准化或归一化，以便于计算距离。

2. **导入库**：需要导入必要的Python库，如`numpy`用于数值计算，`pandas`处理数据，`scipy`或`sklearn.metrics`计算距离等。

3. **创建KNN模型**：虽然Scikit-learn库已经包含了KNN的实现（`sklearn.neighbors.KNeighborsClassifier`或`sklearn.neighbors.KNeighborsRegressor`），但如果要从头开始编写，可以定义一个简单的类来封装KNN的核心逻辑，包括存储数据集、查询最近邻居等功能。

class CustomKNN:
    def __init__(self, k=3):
        self.k = k
        self.X_train = None
        self.y_train = None

    def fit(self, X, y):
        self.X_train = X
        self.y_train = y

    def _euclidean_distance(self, x1, x2):
        # 计算欧氏距离
        return np.sqrt(np.sum((x1 - x2)**2))

    def predict(self, test_instance):
        distances = [self._euclidean_distance(test_instance, train_instance) for train_instance in self.X_train]
        sorted_indices = np.argsort(distances)
        k_nearest_labels = [self.y_train[index] for index in sorted_indices[:self.k]]
        most_common_label = Counter(k_nearest_labels).most_common(1)[0][0]
        return most_common_label

4. **使用模型**：首先训练模型（`fit`方法），然后对新的实例进行预测（`predict`方法）。