基于邻域信息的拉普拉斯特征映射新增样本点延拓方法研究

拉普拉斯特征映射延拓方法在高维数据降维中的应用 拉普拉斯特征映射（Laplacian Eigenmaps，LE）是一种非线性降维方法，能够有效地发现高维数据中的低维结构。然而，在实际应用中，LE方法存在新增样本点延拓的问题，即如何将新增样本点映射到低维空间中。为解决这个问题，本文提出了一种基于邻域信息的新增样本点延拓方法。 该方法假设新增样本点与邻域保持线性关系，使用稀疏编码方法求解线性系数，再由这些系数在低维空间重构得到新增样本点的低维表示。使用1-NN分类算法对新增样本点的低维表示进行分类，实验结果表明，与基于全局信息的稀疏编码重构方法相比，基于邻域信息的稀疏编码重构算法使用更少的时间取得更高的分类准确率。 此外，该方法可以推广至其他非线性降维方法的新增样本点问题。这个方法的提出解决了拉普拉斯特征映射方法在实际应用中的一个重要问题，提高了该方法在高维数据降维中的应用价值。 在大数据时代，数据大多以高维的形式出现，直接使用高维数据解决实际问题，容易遇到维数灾难。许多现有的数据分析技术无法在高维数据上取得理想的效果，因而需要在保证原始数据信息情况下对数据降维。传统的降维技术为线性降维，主要有Principal Component Analysis（PCA）和Multi-Dimensional Scaling（MDS）。 近十五年来，非线性降维技术逐步发展，并构成机器学习的一个分支——流形学习。常见的非线性降维方法有等距映射（Isomaps）、局部线性嵌入（Local Linear Embedding，LLE）、拉普拉斯特征映射（Laplacian Eigenmaps，LE）、最大差异展开（Maximum Variance Unfolding，MVU）。 这些数据降维方法的基本思想或是保结构降维，如经典多维尺度分析保持欧氏距离，等距映射保持测地距离，最大差异展开保持内积，局部线性嵌入保持局部线性关系；或是以增加数据的判别信息为目的进行降维，如主成分分析最大化方差，拉普拉斯特征映射最小化邻域内数据点距离。 与传统的线性降维方法相比，上述非线性降维方法能更有效地发现复杂高维数据内嵌的低维结构。