通俗介绍包裹式选择、过滤式选择与嵌入式选择的异同
时间: 2023-07-21 07:33:32 浏览: 129
特征选择-Filter过滤法,Embedded嵌入法,包装法
包裹式选择、过滤式选择和嵌入式选择是三种常见的特征选择方法,它们的主要区别在于特征选择的时机和方法。下面是它们的异同点:
1. 包裹式选择(Wrapper Method):是将特征选择看作一个搜索问题,通过不断的尝试不同的特征子集来选择最优的特征子集。这种方法的优点是能够很好地利用特征之间的交互信息,但是计算量通常很大,不适用于大规模数据集。
2. 过滤式选择(Filter Method):是通过对特征的某些统计量进行排序,选择排名靠前的特征子集。这种方法的优点是计算简单,适用于大规模数据集,但是可能会忽略特征之间的交互信息。
3. 嵌入式选择(Embedded Method):是将特征选择嵌入到模型的训练过程中,通过优化模型的性能来选择最优的特征子集。这种方法的优点是能够很好地利用特征之间的交互信息,同时也能够避免过度拟合的问题,但是计算量通常较大。
总的来说,这三种方法在特征选择的目标、计算量和适用范围上都有所不同,需要根据具体的应用场景选择合适的方法。
阅读全文