基于遗传算法的两阶段特征选择融合方法

"本文提出了一种融合最大互信息系数与皮尔逊相关系数的两阶段特征选择算法，并利用遗传算法自动优化其中的超参数，旨在解决传统特征选择方法的局限性，如信息增益的选择偏好、对非线性问题处理能力不足以及手动参数优化的复杂性。在第一阶段，通过最大互信息系数来度量特征与目标标签的相关性，从而筛选出具有高相关性的特征。接着，在第二阶段，采用皮尔逊相关系数去除第一阶段选取特征子集中的冗余，进一步精简特征集。最后，利用遗传算法自动化地优化这两个阶段中的超参数，以提高特征选择的效果和分类性能。实验证明，该算法在降低特征空间维度的同时，能够提升分类器的性能，且在多组UCI数据集上表现出良好的效果。" 本文的研究重点在于改进特征选择的过程，以提高机器学习模型的性能。传统的特征选择方法，如信息增益，可能会偏向于选择具有更多值的特征，这可能导致忽略了一些重要的信息。此外，对于非线性问题，这些方法可能无法有效地捕捉到特征间的复杂关系。为了解决这些问题，作者提出了一个两阶段的融合特征选择策略。 首先，最大互信息系数（MI）被用来评估每个特征与目标变量之间的关联程度。MI是一种无偏的信息量度，可以捕捉非线性关系，因此它能更全面地评估特征的相关性，而不仅仅是基于频率或计数。在第一阶段，通过计算所有特征与目标变量的MI，可以挑选出那些对分类最相关的特征。 然后，在第二阶段，引入了皮尔逊相关系数（Pearson's Correlation Coefficient, PCC）来去除第一阶段选出的特征子集中的冗余。PCC衡量的是两个变量间的线性相关性，可以有效识别和消除高度相关的特征，从而减少特征间的多重共线性，避免过拟合问题。 为了简化参数优化的过程，文章中采用了遗传算法。这是一种模拟自然选择和遗传机制的优化方法，能够全局搜索超参数空间，找到最优的组合。在本文中，遗传算法被应用于优化两个阶段的超参数，确保特征选择过程的效率和精度。 实验结果表明，提出的融合算法在多组UCI数据集上表现出了优异的性能，不仅减小了特征空间的维度，还提升了分类模型的预测准确率。这证明了该算法的有效性和实用性，特别是在处理大规模数据和复杂问题时，能够减轻人工调整参数的负担，提高自动化程度，为实际应用提供了有力的工具。