knn算法交叉验证法代码

KNN (K-Nearest Neighbors) 算法的交叉验证通常用于评估模型性能并选择最佳的k值。以下是使用Python的scikit-learn库进行KNN交叉验证的一个简单示例：

from sklearn.neighbors import KNeighborsClassifier
from sklearn.model_selection import cross_val_score, KFold

# 假设我们有一个数据集X和对应的标签y
X = ... # 输入特征矩阵
y = ... # 目标变量

# 创建KNN分类器
knn = KNeighborsClassifier(n_neighbors=5)

# 使用KFold交叉验证
kfold = KFold(n_splits=5)  # 一般将折数设置为5，如cv=5表示5折交叉验证
scores = cross_val_score(knn, X, y, cv=kfold, scoring='accuracy')  # 'accuracy'是对分类准确率的度量

# 打印每个折的得分以及平均得分
print("Cross-validation scores:", scores)
print("Mean accuracy:", scores.mean())

在这个例子中，`cross_val_score`函数会按分割的方式对数据进行训练和测试，每次迭代都会调整k值，并计算模型在验证集上的性能指标（这里是准确率）。最后，我们会得到每个折的得分列表和整体的平均得分，这是评估模型稳健性和选择最佳k值的重要依据。