K-Means smote

### K-Means与SMOTE结合使用

#### 方法概述

K-Means是一种无监督学习算法，用于将数据划分为多个簇(cluster)[^1]。而合成少数类过采样技术(SMOTE, Synthetic Minority Over-sampling Technique)则主要用于处理有监督分类问题中的类别不平衡现象[^2]。

当两者结合起来时，可以先利用K-Means对原始特征空间进行划分得到若干子区域(subspace)，再针对每个子区域内应用SMOTE来增加稀少类样本数量并保持其分布特性不变。这种方法能够有效缓解全局范围内直接运用SMOTE可能带来的过度拟合风险，并且有助于捕捉局部结构信息从而提升模型性能[^3]。

#### 应用场景

此组合特别适用于那些具有复杂内部结构的数据集，在这些情况下简单地在整个输入域内执行SMOTE可能会破坏原有的模式或引入噪声。通过先分群后扩增的方式可以在一定程度上克服上述缺点：

- **医学诊断**：疾病预测中往往正负案例数差异巨大；
- **金融风控**：欺诈交易相对于正常支付极为罕见；
- **网络安全**：恶意攻击事件相较于合法访问次数较少；

from imblearn.over_sampling import SMOTENC
from sklearn.cluster import MiniBatchKMeans

def kmeans_smote(X_train, y_train, n_clusters=50):
    # Step 1: Apply clustering to the training data
    clusterer = MiniBatchKMeans(n_clusters=n_clusters)
    clusters = clusterer.fit_predict(X_train)

    # Initialize a dictionary for storing oversampled datasets per cluster
    X_resampled_dict = {}
    
    for i in range(n_clusters):
        mask = (clusters == i)
        
        if sum(mask)>0:
            smote = SMOTENC(random_state=42)
            X_cluster, y_cluster = smote.fit_resample(
                X_train[mask], 
                y_train[mask])
            
            X_resampled_dict[i] = {
                'X': X_cluster,
                'y': y_cluster}
                
    return X_resampled_dict