eigen 实现pca

Eigen 是一个 C++ 的线性代数库，它提供了许多常用的矩阵和向量操作，包括 PCA（主成分分析）。

首先，我们需要加载数据集并将其存储为 Eigen 矩阵。假设我们的数据集存储在一个文本文件中，每行包含一个样本，其中第一个数字是标签（如果存在），后面的数字是特征。我们可以使用以下代码加载数据：

#include <iostream>
#include <fstream>
#include <Eigen/Dense>

using namespace std;
using namespace Eigen;

int main() {
    ifstream fin("dataset.txt");
    MatrixXd data;
    vector<double> temp; 
    string line;

    while (getline(fin, line)) {
        temp.clear();
        istringstream iss(line);
        double num;

        while (iss >> num) {
            temp.push_back(num);
        }

        if (data.size() == 0) {
            data.resize(1, temp.size() - 1);
        }

        if (temp.size() > 1) {
            VectorXd v(temp.size() - 1);

            for (int i = 1; i < temp.size(); i++) {
                v(i - 1) = temp[i];
            }

            data.conservativeResize(data.rows() + 1, temp.size() - 1);
            data.row(data.rows() - 1) = v;
        }
    }

    fin.close();
    cout << "Loaded " << data.rows() << " samples with " << data.cols() << " features." << endl;

    return 0;
}

接下来，我们可以使用 Eigen 的 PCA 类来进行主成分分析。以下代码展示了如何使用 PCA 类获取前 k 个主成分：

#include <iostream>
#include <fstream>
#include <Eigen/Dense>

using namespace std;
using namespace Eigen;

int main() {
    ifstream fin("dataset.txt");
    MatrixXd data;
    vector<double> temp; 
    string line;

    // Load data into Eigen matrix
    // ...

    // Perform PCA
    int k = 3;
    PCA<MatrixXd> pca(data.transpose());
    MatrixXd components = pca.eigenvectors().block(0, 0, data.cols(), k);

    cout << "First " << k << " principal components:" << endl;
    cout << components << endl;

    return 0;
}

在这个例子中，我们将数据矩阵转置后传递给 PCA 类的构造函数。这是因为 PCA 类要求输入的矩阵是特征在行上，样本在列上。我们还指定了要获取前 3 个主成分。最后，我们输出了前 k 个主成分的值。

需要注意的是，PCA 类的成员函数 eigenvectors() 返回的矩阵的每一列都是一个主成分，而这些主成分已按照其对应的特征值从大到小排序。因此，我们只需要选择前 k 个主成分即可。

完整的示例代码如下：

#include <iostream>
#include <fstream>
#include <Eigen/Dense>

using namespace std;
using namespace Eigen;

int main() {
    ifstream fin("dataset.txt");
    MatrixXd data;
    vector<double> temp; 
    string line;

    while (getline(fin, line)) {
        temp.clear();
        istringstream iss(line);
        double num;

        while (iss >> num) {
            temp.push_back(num);
        }

        if (data.size() == 0) {
            data.resize(1, temp.size() - 1);
        }

        if (temp.size() > 1) {
            VectorXd v(temp.size() - 1);

            for (int i = 1; i < temp.size(); i++) {
                v(i - 1) = temp[i];
            }

            data.conservativeResize(data.rows() + 1, temp.size() - 1);
            data.row(data.rows() - 1) = v;
        }
    }

    fin.close();
    cout << "Loaded " << data.rows() << " samples with " << data.cols() << " features." << endl;

    int k = 3;
    PCA<MatrixXd> pca(data.transpose());
    MatrixXd components = pca.eigenvectors().block(0, 0, data.cols(), k);

    cout << "First " << k << " principal components:" << endl;
    cout << components << endl;

    return 0;
}