LLE降维的权重矩阵

LLE（Locally Linear Embedding）降维算法的目标是保持数据样本之间的局部线性关系，它通过以下步骤来实现降维：

1. 计算每个样本与其 k 个最近邻样本之间的权重（或系数）。这些权重被用于线性组合邻居样本以重构原始样本。
2. 构建权重矩阵 W，其中每个元素 w(i, j) 表示样本 i 与其最近邻样本 j 之间的权重。
3. 最小化重构误差，即最小化原始样本与其线性组合的重构之间的欧氏距离。

权重矩阵 W 的构建过程如下：

1. 对于每个样本 i，找到其 k 个最近邻样本。可以使用欧氏距离或其他相似度度量方法来计算样本之间的距离。
2. 对于每个样本 i，将其最近邻样本与 i 进行线性拟合，得到权重向量 w(i)。这可以通过最小二乘法来实现，即最小化重构误差。
3. 将权重向量 w(i) 归一化，确保每一行的权重之和为 1。
4. 将所有的权重向量 w(i) 组合成一个权重矩阵 W。

权重矩阵 W 是 LLE 算法的关键部分，它描述了样本之间的局部线性关系。通过对权重矩阵进行特征分解或其他降维技术，可以得到降维后的数据表示。