无监督学习:聚类分析基础与K-means应用

需积分: 10 2 下载量 116 浏览量 更新于2024-09-08 收藏 248KB PDF 举报
"本文主要介绍了聚类分析的基本概念和应用,特别强调了在处理大量数据时,聚类作为无监督学习方法的优势。文章探讨了聚类的基础,即距离与相异度的计算,并深入讲解了K-means聚类算法以及K中心点聚类算法。通过举例说明如何使用聚类方法解决实际问题,例如分析中国男足在亚洲的竞争力。文中还详细阐述了相异度计算的不同方法,包括欧氏距离、曼哈顿距离和闵可夫斯基距离,并提到了属性规格化的必要性以确保不同尺度的属性对结果的影响公平。” 聚类分析是一种无监督学习技术,它允许数据自我组织,发现隐藏的结构或模式,而无需预先指定类别信息。与监督学习中的分类不同,聚类不依赖于已知的类标签。在处理大规模数据集时,聚类算法成为首选,因为它能有效地探索数据的内在关系。 相异度是衡量两个数据点之间差异程度的关键指标,它是聚类算法的基础。计算相异度通常涉及选择合适的距离度量,如欧氏距离、曼哈顿距离或闵可夫斯基距离。这些距离度量在不同场景下各有优势,例如欧氏距离适用于多维空间中的数据,而曼哈顿距离则在各个维度独立时更适用。 K-means聚类是一种广泛应用的算法,其工作原理是通过迭代将数据分配到最近的聚类中心,然后更新中心为该聚类内所有点的平均值。K中心点聚类与K-means类似,但其聚类中心选取策略不同,它选择的是聚类内最远的点作为新的中心,这可能导致更稳定的聚类结果。 在实际应用中,例如分析中国男足的竞技水平,可以利用球队比赛成绩、国际排名等数据,通过聚类分析将其与其他亚洲国家的足球队进行比较,从而得出中国男足在亚洲的相对位置。然而,为了确保不同特征的平等权重,需要对数据进行规格化处理,以免某些数值范围较大的特征主导整个聚类过程。 聚类分析提供了一种探索性数据分析的工具,尤其在大数据场景下,可以帮助我们理解数据的内在结构,揭示未知的群体特征,而无需依赖先验知识。通过对距离和相异度的精确计算,聚类算法能够帮助我们在各种领域找到有价值的洞见。
8599 浏览量
1. 项目背景 基于项目提供的汽车相关数据,通过聚类分析的方法实现汽车产品聚类,以构建汽车产品画像、分析产品定位、完成汽车竞品分析等要求。 2. 项目数据 项目提供的汽车数据包括26个字段共205条数据,数据文件为“car_price.csv” 26个字段可以划分为类别型变量和数值型变量两种,包括汽车的长/宽/高、汽车净重、燃油系统、燃油类型、驱动类型、峰值转速、里程数、汽车价格等。 3. 项目要求 通过聚类的方法构建汽车产品画像、分析不同类别汽车的产品定位,寻找Volkswagen大众汽车的竞品品牌。 4. 项目思路 第一步:数据字段理解 根据项目所提供的数据,对数据中26个字段进行理解。结合汽车行业的相关知识,26个字段可以大致归为两类:第一类是车辆自身属性(如燃油系统、燃油类型、汽缸数、峰值转速、汽车长宽高等);第二类是车辆的市场属性(如车辆名称、车辆价格、风险评估等级)。 26个字段主要分为数值型变量和类别型变量两类。 第二步:原始数据描述性统计及变量分布可视化 对原始数据进行描述性统计并对数据中的字段分布进行可视化(详情见主文档)。通过对原始数据的观察,数据不存在缺失值、不存在重复值,“CarName”字段存在部分车辆品牌名称错误的情况。 第三步:确定聚类方法,明确聚类要求 通过对原始数据的变量观察,该数据变量主要为数值型变量和类别型变量两类,且类别型变量数量较多,常用的K-means聚类只能分析数值型变量,无法考虑类别型变量所包含的信息。二阶段聚类法适用于包含数值型和类别型变量的混合数据,因此考虑使用二阶段聚类法分析数据。 二阶段聚类法的要求是:类别型变量符合多项式分布(即变量的值分属几个类别);数值型变量间要相互独立,且数值型变量近似服从正态分布。项目所给出的数据中,类别型变量符合多项式分布,因此仅需进一步观察并处理数值型变量。 第四步:特征工程 数据清洗与新变量生成。原始数据指给出了车辆的名称,没有给出车辆所属品牌,结合最终聚类分析的需要,根据“CarName”字段提取出车辆所属品牌信息,命名为“brand”。同时对品牌名称中的错误拼写进行清洗。 变量相关性分析与可视化。由于二阶段聚类要求数值型变量间相互独立,所以需要对数值型变量间的相关性进行查看与处理。相关性分析结果表示14个数值型变量之间存在高相关性情况,需要结合汽车知识背景与变量特征进行进一步处理。 高相关变量的处理——“highwaympg”和“citympg”呈高度正相关。其实不管是高速mpg还是城市mpg,其本质都是mpg指标,而且通过观察数据,二者之间的差异较小(极值、均值),因此考虑将二者合并为一个指标'mpg',计算方式为取二者均值:mpg=(highwaympg+citympg)/2; 高相关性变量的处理——“price”变量与其余变量产生高相关性的频数最多,可能是因为车辆自身属性和配置的变动会直接影响着车辆的市场价格。此外,与其他变量相比,price属性属于车辆的市场销售属性(而非车辆自身属性),在聚类中更适合作为类别型变量,对车辆的价位进行划分,因此,考虑将price变量转换为类别型变量,按照其价格分布划分为Low price(20000)三类; 高相关性变量的处理——对于其余数值型变量,变量数目较多且多个变量之间存在相关性,因此考虑使用因子分析对数值型变量进行降维,以减少数值型变量的数目并使变量间相互独立。 第五步:数值型变量因子分析结果(基于SPSS实现) 利用SPSS对数值型变量进行因子分析,KMO值>0.8,巴特利球形检验p值=0,说明参与因子分析的变量间存在相关性,可以进行因子分析。最终得到两个因子。 第一个因子包括:车长、车宽、车净重、引擎尺寸、车轴距、mpg、马力、车内径比。简单将该因子归纳为车辆截面与马力因子; 第二个因子包括:车高、峰值转速、车压缩比。简单将该因子归纳为车辆垂面与转速因子; 第六步:两阶段聚类及结果(基于SPSS实现) 对处理后的数据进行两阶段聚类,最终将205辆车聚为两类。 根据SPSS聚类结果,第一类中包含120条车辆数据,占总数据的58.5%;第二类中包含85条车辆数据,占总数据的41.5%。两类簇数据规模近似,没有过大或过小的类簇。 根据SPSS聚类结果,聚类质量属于“良好”范围,仍有进一步改进和优化的空间。 根据SPSS聚类结果,显著区分两类类簇的变量(重要性>0.6)按重要性大小排序依次是驱动类型、燃油系统、车辆截面与马力因子、价格范围。 汽车产品画像与产品定位 根据区分类簇的四个重要标签来对数据中的汽车产品进行产品画像与产品定位。 第一类画像:驱动类型多为fwd(前轮驱动),燃油系统多