CART算法及分类回归方法详解

CART算法描述-数据挖掘原理与实践 第四章 ppt CART算法是分类和回归树（Classification and Regression Trees）算法的缩写，它是一种常用的决策树算法，主要用于分类和回归分析。下面是CART算法的详细描述： **函数名：CART(S,F)** * 输入：样本集数据S，训练集数据属性集合F * 输出：CART树 **算法步骤：** 1. 如果样本S全部属于同一个类别C，则创建一个叶结点，并标记类标号为C；返回。 2. 否则，计算属性集F中每一个属性划分的差异性损失，假定差异性损失最大的属性为A。 3. 创建结点，取属性A为该结点的决策属性。 4. 以属性A划分S得到S1和S2两个子集。 5. 递归调用CART(S1 ,F)。 6. 递归调用CART(S2 ,F)。 **决策树分类方法** 决策树分类方法是指使用决策树来分类数据的方法。决策树是一种树形结构，通过递归地划分数据集来构建分类模型。决策树分类方法可以处理连续型和离散型数据，且可以处理高维数据。 **分类的定义** 分类是数据挖掘中的一种主要分析手段，任务是对数据集进行学习并构造一个拥有预测功能的分类模型，用于预测未知样本的类标号。 **分类的步骤** 1. 将数据集划分为2部分：训练集和测试集。 2. 对训练集学习，构建分类模型。 3. 用建好的分类模型对测试集分类，评估该分类模型的分类准确度及其它性能。 4. 使用分类准确度高的分类模型对类标号未知的未来样本数据进行分类。 **分类与回归的区别** 分类和回归都有预测的功能，但是： * 分类预测的输出为类标号（离散或标称的属性）； * 回归预测的输出为连续属性值。 **分类与聚类的区别** 分类因为使用了类标号属性，属于有监督的学习方法；聚类，事先没有使用任何类标号信息，属于无监督的学习方法。 **回归分析** 回归分析可以对预测变量和响应变量之间的联系建模。回归分析可以用于连续值函数建模，预测未知的或缺省值。回归分析包括：线性回归、非线性回归以及逻辑回归等。