python特征值筛选

特征值筛选是指通过某种方法或算法，从给定的特征集合中选择出最具有代表性或重要性的特征。在Python中，有多种方法可以进行特征值筛选。

一种常用的方法是使用sklearn库中的SelectKBest函数，结合卡方检验（chi-square test）来选择最佳的K个特征。该方法通过矩阵相乘快速计算出特征的观测值和期望值，并计算出各特征的χ2值后进行排序选择。示例代码如下：

from sklearn.datasets import load_iris
from sklearn.feature_selection import SelectKBest
from sklearn.feature_selection import chi2

x, y = load_iris(return_X_y=True)
x_new = SelectKBest(chi2, k=2).fit_transform(x, y)

另一种方法是基于决策树的树模型，如随机森林、Lightgbm和Xgboost等。这些模型在树生长过程中会启发式地搜索特征子集，并可以直接输出特征的重要性。示例代码如下：

from lightgbm import LGBMClassifier
from lightgbm import plot_importance
import matplotlib.pyplot as plt

model = LGBMClassifier()
model.fit(x, y)

plot_importance(model, max_num_features=20, figsize=(10,5), importance_type='split')
plt.show()

feature_importance = pd.DataFrame({
    'feature': model.booster_.feature_name(),
    'gain': model.booster_.feature_importance('gain'),
    'split': model.booster_.feature_importance('split')
}).sort_values('gain', ascending=False)

还有一种方法是使用互信息（mutual information）来衡量特征的信息贡献程度。互信息的大小代表特征的信息增益。示例代码如下：

from sklearn.feature_selection import mutual_info_classif
from sklearn.datasets import load_iris

x, y = load_iris(return_X_y=True)
mutual_info_classif(x, y)

以上是Python中常用的特征值筛选方法，可以根据具体的需求选择适合的方法来进行特征值筛选。
#### 引用[.reference_title]
- *1* *2* *3* [Python特征选择](https://blog.csdn.net/m0_61899108/article/details/122444256)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^koosearch_v1,239^v3^insert_chatgpt"}} ] [.reference_item]
[ .reference_list ]