SelectKBest,SelectPercentile,f_regression

SelectKBest 和 SelectPercentile 是两个常用的特征选择方法，它们属于基于统计量的特征选择工具，主要应用于机器学习中的数据预处理阶段，目的是从原始特征中选择出对目标变量影响最大的特征。

1. **SelectKBest**: 这个方法会选择k个具有最高统计显著性的特征。它使用了诸如卡方检验（chi-squared test）、F-分数（F-test）等统计量来衡量每个特征与目标变量之间的关联度。KBest 提供了一种定性的方式来选择最好的k个特征，用户可以选择不同的统计测试（如f_regression 你提到的）来计算特征的重要性。

2. **SelectPercentile**: 这个方法则根据特征的重要性分数选择一定百分比的特征。与 KBest 类似，它也支持使用统计测试，比如 f_regression。它可以根据预先设定的阈值，自动筛选出最相关的部分特征，这在处理大量特征时特别有用。

3. **f_regression**: 这是 SelectKBest 和 SelectPercentile 中常用的一种统计测试，尤其适合于线性回归问题。它评估的是特征与因变量之间线性关系的强度和显著性，f_regression 使用了F统计量，该统计量结合了方差分析（ANOVA）和方差齐性检验的思想，来确定一个特征是否对因变量有显著影响。