主成分与因子分析解析

"第21章 主成分与因子分析.ppt" 主成分分析与因子分析是统计学中用于数据降维和分析复杂变量间关系的重要工具。这两种方法尤其适用于当研究涉及大量相关变量时，旨在减少数据的复杂性，同时保留关键信息。 ### 第一节 主成分分析 主成分分析（PCA）是一种统计方法，它通过线性变换将一组可能相关的变量转换为一组线性不相关的变量，称为主成分。这些新变量按照它们解释原始数据变异的大小排序，第一个主成分拥有最大的方差，随后的主成分依次递减。主成分分析的主要目标是通过选择少数几个最重要的主成分，来简化数据的表示，同时尽可能多地保留原始信息。 #### 主成分的计算及性质 1. **主成分的确定**：通常通过累计贡献率或特征根来决定保留的主成分数量。累计贡献率是指前k个主成分的方差之和占所有主成分方差的比例，一般要求达到70%以上；特征根（λ）表示主成分的方差，λ越大，主成分包含的信息量越大。 2. **主成分Zi的方差贡献率**：λi除以所有主成分方差的总和，衡量Zi对总体变异的贡献程度。 3. **累计贡献率**：前k个主成分的方差贡献率之和，反映了这些主成分共同解释了多少原始数据的变异。 #### 主成分分析的用途 - **主成分评价**：在多指标评估中，主成分分析可整合多个指标，消除量纲影响，解决指标间关联性导致的信息重叠问题，帮助确定权重。 - **主成分回归**：将主成分作为新的自变量，与响应变量进行多元回归，能解决自变量共线性问题，提高模型解释力。 ### 第二节 因子分析 因子分析是一种寻找隐藏在观测变量背后的少数潜在因子（或因素）的方法。这些因子被认为是一组观测变量共同变异的来源。因子分析不同于主成分分析，它的目标在于解释变量之间的共变关系，而不仅仅是数据的降维。 #### 因子分析的计算 1. **公共因子**：因子分析寻找的是所有变量都共享的公共因子，每个变量可以看作是由公共因子和特殊因子共同影响的结果。 2. **因子载荷**：表示变量与因子的关联强度，高载荷的变量在相应因子上的表现更显著。 #### 因子分析的应用 - **变量解释**：通过因子分析可以理解变量之间的结构关系，找出隐藏的结构模式。 - **简化数据**：减少变量数量，便于后续建模和分析。 - **理论构建**：在社会科学等领域，因子分析有助于构建理论框架，识别核心概念。 ### 第三节 主成分分析与因子分析的区别与联系 1. **区别**： - 目的：主成分分析主要关注数据的降维，因子分析则着重于解释变量间的共变关系。 - 解释性：主成分是线性组合，不一定有实际意义，而因子则试图解释变量间的内在联系。 2. **联系**： - 技术相似：两者的数学基础都是线性代数，都通过旋转（如最大方差旋转）来改善解释性。 - 实际应用：在某些情况下，两者可以产生相似的结果，特别是在处理共线性问题时。 综上，主成分分析和因子分析是两种强大的统计工具，它们在理解和简化复杂数据集方面起着关键作用，各有侧重，但在实际应用中往往可以互补，共同服务于数据分析的目的。