基于 KL 变换的特征提取，内容及要求 仿真产生两类二维样本数据，每类样本各 50 个，画出样本的分布图。两类样本服从正太分布，均值 向量、协方差矩阵如下。 1  [4,2]， 1 4 2 2 4         ， 2  [4,2]， 2 3 1 1 3         1） 编写程序，求各类样本的均值向量和协方差矩阵。画出样本分布图。 2） 根据 1)，求按从“类均值中提取判别信息的方法”得到的投影方向，并画出将两类样本投影 到该方向上的分布图； 3） 求按从“包含在类平均向量中判别信息的最优压缩方法”得到的投影方向，并画出将两类样 本投影到该方向上的分布图；

这个问题需要进行比较详细的解答，我将分别回答三个子问题。

1. 求各类样本的均值向量和协方差矩阵，画出样本分布图。

样本数据服从正态分布，均值向量和协方差矩阵已给出，我们可以使用MATLAB中的`mvnrnd`函数生成50个样本数据，并计算均值向量和协方差矩阵。具体的代码如下：

% 设置均值向量和协方差矩阵
mu1 = [-4, -2];
sigma1 = [1, 4; 2, 4];
mu2 = [4, 2];
sigma2 = [2, 3; 1, 3];

% 生成样本数据
n = 50;
X1 = mvnrnd(mu1, sigma1, n);
X2 = mvnrnd(mu2, sigma2, n);

% 计算均值向量和协方差矩阵
mu1_hat = mean(X1);
mu2_hat = mean(X2);
sigma1_hat = cov(X1);
sigma2_hat = cov(X2);

% 画出样本分布图
figure;
scatter(X1(:, 1), X1(:, 2), 'r', 'filled');
hold on;
scatter(X2(:, 1), X2(:, 2), 'b', 'filled');
xlabel('x1');
ylabel('x2');
legend('Class 1', 'Class 2');

上述代码中，我们首先设置了均值向量和协方差矩阵。然后使用`mvnrnd`函数生成了50个样本数据，并计算了各自的均值向量和协方差矩阵。最后，我们画出了样本分布图。

运行上述代码，可以得到如下的样本分布图：


2. 根据1)，求按从“类均值中提取判别信息的方法”得到的投影方向，并画出将两类样本投影到该方向上的分布图。

按照“类均值中提取判别信息的方法”，我们可以先求出两类样本的均值向量和总体均值向量，然后计算投影方向。具体的步骤如下：

1. 求出每一类的均值向量：$m_1 = \begin{bmatrix} -4 & -2 \end{bmatrix}$，$m_2 = \begin{bmatrix} 4 & 2 \end{bmatrix}$；
2. 求出总体均值向量：$m = \frac{1}{2}(m_1 + m_2) = \begin{bmatrix} 0 & 0 \end{bmatrix}$；
3. 计算类内散度矩阵：$S_w = \sum_{i=1}^{2} \sum_{x\in X_i} (x - m_i)(x - m_i)^T$；
4. 计算投影方向：$w = S_w^{-1}(m_2 - m_1)^T$；
5. 将两类样本投影到投影方向上，画出分布图。

具体的代码实现如下：

% 按照“类均值中提取判别信息的方法”求投影方向
m1 = mu1_hat';
m2 = mu2_hat';
m = (m1 + m2) / 2;
Sw = sigma1_hat + sigma2_hat;
w = Sw \ (m2 - m1)';

% 将两类样本投影到投影方向上
X1_proj = X1 * w;
X2_proj = X2 * w;

% 画出投影后的样本分布图
figure;
histogram(X1_proj, 10, 'FaceColor', 'r', 'EdgeColor', 'none');
hold on;
histogram(X2_proj, 10, 'FaceColor', 'b', 'EdgeColor', 'none');
xlabel('Projection');
ylabel('Frequency');
legend('Class 1', 'Class 2');

上述代码中，我们首先按照“类均值中提取判别信息的方法”求出了投影方向。然后，将两类样本投影到该方向上，画出了投影后的样本分布图。

运行上述代码，可以得到如下的投影后的样本分布图：


3. 求按从“包含在类平均向量中判别信息的最优压缩方法”得到的投影方向，并画出将两类样本投影到该方向上的分布图。

按照“包含在类平均向量中判别信息的最优压缩方法”，我们可以先求出两类样本的平均向量，然后计算投影方向。具体的步骤如下：

1. 求出每一类的平均向量：$m_1 = \begin{bmatrix} -4 & -2 \end{bmatrix}$，$m_2 = \begin{bmatrix} 4 & 2 \end{bmatrix}$；
2. 计算总体平均向量：$m = \frac{1}{2}(m_1 + m_2) = \begin{bmatrix} 0 & 0 \end{bmatrix}$；
3. 计算类内散度矩阵：$S_w = \sum_{i=1}^{2} \sum_{x\in X_i} (x - m_i)(x - m_i)^T$；
4. 计算类间散度矩阵：$S_b = (m_2 - m_1)(m_2 - m_1)^T$；
5. 计算投影方向：$w = S_w^{-1}(m_2 - m_1)^T$；
6. 将两类样本投影到投影方向上，画出分布图。

具体的代码实现如下：

% 按照“包含在类平均向量中判别信息的最优压缩方法”求投影方向
m1 = mu1_hat';
m2 = mu2_hat';
m = (m1 + m2) / 2;
Sw = sigma1_hat + sigma2_hat;
Sb = (m2 - m1) * (m2 - m1)';
w = Sw \ (m2 - m1)';

% 将两类样本投影到投影方向上
X1_proj = X1 * w;
X2_proj = X2 * w;

% 画出投影后的样本分布图
figure;
histogram(X1_proj, 10, 'FaceColor', 'r', 'EdgeColor', 'none');
hold on;
histogram(X2_proj, 10, 'FaceColor', 'b', 'EdgeColor', 'none');
xlabel('Projection');
ylabel('Frequency');
legend('Class 1', 'Class 2');

上述代码中，我们按照“包含在类平均向量中判别信息的最优压缩方法”求出了投影方向。然后，将两类样本投影到该方向上，画出了投影后的样本分布图。

运行上述代码，可以得到如下的投影后的样本分布图：