集成Logistic回归与SVM的判别分析新规则:有效性实证

需积分: 0 1 下载量 177 浏览量 更新于2024-09-09 收藏 317KB PDF 举报
该篇论文《一种集成logistic回归与支持向量机的判别分析规则》发表于2007年4月的《系统工程理论与实践》第4期,文章编号为100026788(2007)0420041206。作者徐晓燕、王昱和张斌来自中国科学技术大学管理学院,他们关注的是在决策分析领域中的集成学习方法。 论文的核心内容是将支持向量机(SVM)与逻辑回归(Logistic Regression)相结合,提出了一种新的判别分析规则。SVM是一种强大的非线性分类器,它通过构造最优超平面来实现分类,其输出的特征空间距离可以被映射到一个连续区间。作者注意到,通过对这个区间进行分割,并计算各区间内的误分类频率,可以获取关于模型性能的更深入理解。 在二分判别分析的背景下,论文提出了一种集成规则(IDAR),即利用SVM的错误分类频率与逻辑回归对预测样本的概率输出进行对比。这种集成方法旨在提高分类准确性和鲁棒性,因为逻辑回归通常处理线性可分问题,而SVM则适用于非线性问题。通过比较两者在不同区间的表现,作者期望能在保持SVM的优点的同时,利用逻辑回归的稳定性和解释性。 为了验证IDAR的有效性,论文采用了支持向量机效果验证的基准数据集进行了实证分析。结果显示,新提出的集成判别分析规则能够有效地改善分类性能,并且在实际应用中显示出较高的预测精度。关键词包括逻辑回归、支持向量机和判别分析,表明了研究的主要焦点集中在这些机器学习技术的融合上。 这篇论文不仅提出了一个创新的分析框架,还展示了如何通过结合两种不同的分类算法来优化决策规则。这对于理解和改进机器学习模型,特别是在处理复杂分类问题时,具有重要的理论和实践价值。通过实证分析,论文证明了集成方法在提高分类准确性和泛化能力方面的确有显著优势。