ICCIP-2020: 线性回归与回归树比较：性能与应用分析

本文主要探讨了线性回归与回归树这两种在数据挖掘和机器学习中常见的预测建模方法。线性回归被广泛用于揭示因变量与自变量之间的线性关系，通过拟合一条直线来估计因变量的值。其目标是找到一个最佳拟合模型，使得所有样本点到这条直线的误差平方和最小，通常衡量其性能的指标是均方误差(MSE)。 相比之下，回归树（尤其是CART模型）是一种基于树结构的非线性模型，它通过递归地将数据集分割成更小的子集，每个子集对应于树的一个节点，直到满足停止条件（如达到预定的最大深度或者样本数量过少）。对于回归任务，CART会根据每个分割特征对数据的划分导致的均方误差增量来进行最优决策。这种非线性决策边界使得回归树能够适应更复杂的数据分布。 在本研究中，作者Pratibha Jadhava、Vaishali Patil博士和Sharad Gore博士将焦点放在了这两种方法的对比上。他们利用了来自UCI机器学习存储库的真实世界数据集，通过对数据进行分析和实验，旨在考察线性回归和回归树在预测准确性上的区别。研究发现，回归树在处理某些数据集时可能提供更优的结果，因为它能够处理非线性和交互效应，而这些可能是线性回归难以捕捉的。 尽管线性回归因其简单性和解释性强受到青睐，但回归树在解决实际问题时展现出更强的灵活性和泛化能力。因此，在选择模型时，决策树由于其在平方最小均和（MSE）上的优势，可能会被优先考虑作为最终的预测模型。然而，具体应用哪种方法取决于数据的特性、预测任务的复杂度以及对模型解释性的需求。这篇研究为数据科学家提供了深入理解这两种回归技术及其适用场景的重要参考。