PLS回归分析：解决多重相关性和小样本问题

"数据回归-PLS回归中的一种新的评判准则.pdf" PLS（部分最小二乘法，Partial Least Squares Regression）回归是一种多元统计分析技术，最初由伍德（S. Wold）和阿巴诺（cAlbano）等人提出，并由伍德等人进一步开发了SIMCA-P软件来支持其计算和结果解释。由于PLS回归在模型构建和解释上的优势，以及广泛的应用场景，被Fomell教授誉为“第二代回归分析方法”。 1. PLS回归的适用条件 PLS回归主要针对两种常见问题： 1. 自变量间的多重相关性：当自变量之间存在显著的线性相关性时，传统的最小二乘法（LS）回归可能导致模型误差扩大，模型稳健性降低，且模型解释不符合实际。例如，用LS回归分析“身体脂肪”数据，其中三个自变量高度相关，模型结果显示大腿围长和中臂围长粗大时，脂肪反而减少，这显然违反常识。同时，虽然F检验通过，但t检验未通过，表明多重相关性导致了不准确的建模。 2. 样本点数目不足：在实践中，由于成本、时间等因素限制，样本数量可能少于变量数量，这使得LS回归难以建立有效模型。然而，PLS回归能应对这种情况，即使样本点少于变量数，也能较好地进行建模。 2. PLS回归的工作原理 PLS回归通过寻找最大化变量与响应变量之间协方差的正交成分，来分解自变量矩阵和因变量。它将自变量和因变量同时进行分解，形成新的综合变量（称为潜变量），这些潜变量既包含原始信息，又降低了多重共线性的影响。通过迭代过程，PLS逐步构建解释因变量的新变量，直到达到预定的解释程度或者达到预设的潜变量数量。 3. PLS回归的优势 - 解释性强：PLS回归的潜变量具有直观的物理或化学意义，有助于解释复杂的数据结构。 - 处理多重共线性：即使自变量高度相关，PLS仍能提供稳定的模型。 - 应用广泛：适用于化学、生物、工程、社会科学等多个领域。 - 少样本处理：在样本量不足的情况下，PLS仍能构建有效的模型。 4. PLS回归的局限性 - 预测性能：尽管PLS在解释性上表现出色，但在预测性能上可能不如其他方法如岭回归或套索回归。 - 参数解释：相对于传统回归，PLS的参数解释可能更为复杂，因为涉及的是潜变量而不是原始自变量。 PLS回归作为一种有效的工具，特别适合处理自变量间多重相关性和样本量有限的情况，其独特的优势使其在多元数据分析中占据了一席之地。在实际应用中，选择PLS回归需根据具体问题和数据特征来确定。