MATLAB实现Fisher线性判别分析代码详解

下载需积分: 48 | TXT格式 | 5KB | 更新于2024-09-09 | 151 浏览量 | 举报

2 收藏

"基于MATLAB的Fisher线性判别代码示例" Fisher线性判别（Fisher's Linear Discriminant，简称FLD）是一种经典的统计学方法，常用于特征选择和分类问题，特别是在高维数据中寻找最优的线性组合以最大化不同类别之间的分离度。在给定的MATLAB代码中，它展示了如何实现Fisher线性判别的过程。首先，Fisher线性判别的主要目标是找到一个投影向量w，使得投影后的样本在新的坐标系中类间距离最大，类内距离最小。这种方法对于降低维数和提高分类效率非常有效。在MATLAB代码中，m1和m2代表两个不同的样本集合，它们被用来训练Fisher判别模型。 ```matlab %m1=[-0.4,0.58,0.089;-0.31,0.27,-0.04;0.38,0.055,-0.035;-0.15,0.53,0.011;-0.35,0.47,0.034;0.17,0.69,0.1;-0.011,0.55,-0.18]; %m2=[0.83,1.6,-0.014;1.1,1.6,0.48;-0.44,-0.41,0.32;0.047,-0.45,1.4;0.28,0.35,3.1;-0.39,-0.48,0.11;0.34,-0.079,0.14]; ``` 这段代码定义了两个样本矩阵m1和m2，每个矩阵的每一行代表一个样本点的特征向量。在实际应用中，这些数据通常来自于实验或观测。在实现Fisher线性判别时，首先需要计算均值向量和协方差矩阵。均值向量表示每个类别的中心，而协方差矩阵描述了样本点在各个维度上的分布情况。然后，我们可以计算类间散度矩阵B（Between-class scatter matrix）和类内散度矩阵W（Within-class scatter matrix）。类间散度矩阵反映了样本类别间的离散程度，而类内散度矩阵则衡量了同一类别内样本的离散程度。接下来，我们需要求解以下优化问题来找到最佳的投影向量w： \[ \max_w trace(W^{-1}B) \] 同时满足约束条件： \[ w^TW = 1 \] 在MATLAB中，可以使用梯度下降法或牛顿法等优化算法求解这个最大化问题。一旦求得w，就可以将原始数据投影到由w定义的新空间中，从而进行分类或其他分析任务。然而，给定的代码片段没有包含完整的Fisher线性判别实现，它只定义了样本数据，没有展示计算均值、协方差矩阵以及求解最优w的过程。要完整实现这个算法，还需要补充这部分代码。 Fisher线性判别是一种强大的统计工具，尤其适用于高维数据的降维和分类。在MATLAB中，通过计算类间和类内散度矩阵，然后解决相关的优化问题，可以找到最佳的线性判别函数。这个过程对理解数据的内在结构和进行有效的机器学习任务至关重要。

clear
clc
close all;
%m1,m2均为10个样本
% m1=[-0.4,0.58,0.089;-0.31,0.27,-0.04;0.38,0.055,-0.035;-0.15,0.53,0.011;-0.35,0.47,0.034;0.17,0.69,0.1;-0.011,0.55,-0.18];
% m2=[0.83,1.6,-0.014;1.1,1.6,0.48;-0.44,-0.41,0.32;0.047,-0.45,1.4;0.28,0.35,3.1;-0.39,-0.48,0.11;0.34,-0.079,0.14];
% a) 对类别m1,m2,利用fisher原则计算投影方向w
% m1=[0 0 0; 1 0 0; 1 0 2; 1 1 0; 0.5 0 0.5;1 0.5 0;1 0 0.5];
% m2=[0 0 1; 0 1 0; 0 1 1; 1 2 1;0 0.5 1;0 1 0.5; 0.5 1 2;0,1,2;0,1,1.2;0,1.2,1.3;0,0,2;0,1,2.2;1,2,0.5;1,2,0.5;1,2,0];
% m1=[6.3,3.3,6.0;5.8,2.7,5.1;7.1,3.0,5.9;6.3,2.9,5.6;6.5,3.0,5.8;7.6,3.0,6.6;4.9,2.5,4.5;7.3,2.9,6.3;6.7,2.5,5.8;7.2,3.6,6.1;6.5,3.2,5.1;6.4,2.7,5.3;6.8,3.0,5.5;5.7,2.5,5.0;5.8,2.8,5.1;
% 6.4,3.2,5.3;6.5,3.0,5.5;7.7,3.8,6.7;7.7,2.6,6.9;6.0,2.2,5.0;6.9,3.2,5.7;5.6,2.8,4.9;7.7,2.8,6.7;6.3,2.7,4.9;6.7,3.3,5.7;7.2,3.2,6.0;6.2,2.8,4.8;6.1,3.0,4.9;6.4,2.8,5.6;7.2,3.0,5.8;
% 7.4,2.8,6.1;7.9,3.8,6.4;6.4,2.8,5.6;6.3,2.8,5.1;6.1,2.6,5.6;7.7,3.0,6.1;6.3,3.4,5.6;6.4,3.1,5.5;6.0,3.0,4.8;6.9,3.1,5.4;6.7,3.1,5.6;6.9,3.1,5.1;5.8,2.7,5.1;6.8,3.2,5.9;6.7,3.3,5.7;
% 6.7,3.0,5.2;6.3,2.5,5.0;6.5,3.0,5.2;6.2,3.4,5.4;5.9,3.0,5.1];
% m2=[5.1,3.5,1.4;4.9,3.0,1.4;4.7,3.2,1.3;4.6,3.1,1.5;5.0,3.6,1.4;5.4,3.9,1.7;4.6,3.4,1.4;5.0,3.4,1.5;4.4,2.9,1.4;4.9,3.1,1.5;5.4,3.7,1.5;4.8,3.4,1.6;4.8,3.0,1.4;4.3,3.0,1.1;5.8,4.0,1.2;
% 5.7,4.4,1.5;5.4,3.9,1.3;5.1,3.5,1.4;5.7,3.8,1.7;5.1,3.8,1.5;5.4,3.4,1.7;5.1,3.7,1.5;4.6,3.6,1.0;5.1,3.3,1.7;4.8,3.4,1.9;5.0,3.0,1.6;5.0,3.4,1.6;5.2,3.5,1.5;5.2,3.4,1.4;4.7,3.2,1.6;
% 4.8,3.1,1.6;5.4,3.4,1.5;5.2,4.1,1.5;5.5,4.2,1.4;4.9,3.1,1.5;5.0,3.2,1.2;5.5,3.5,1.3;4.9,3.1,1.5;4.4,3.0,1.3;5.1,3.4,1.5;5.0,3.5,1.3;4.5,2.3,1.3;4.4,3.2,1.3;5.0,3.5,1.6;5.1,3.8,1.9;
% 4.8,3.0,1.4;5.1,3.8,1.6;4.6,3.2,1.4;5.3,3.7,1.5;5.0,3.3,1.4;7.0,3.2,4.7;6.4,3.2,4.5;6.9,3.1,4.9;5.5,2.3,4.0;6.5,2.8,4.6;5.7,2.8,4.5;6.3,3.3,4.7;4.9,2.4,3.3;6.6,2.9,4.6;5.2,2.7,3.9;
% 5.0,2.0,3.5;5.9,3.0,4.2;6.0,2.2,4.0;6.1,2.9,4.7;5.6,2.9,3.6;6.7,3.1,4.4;5.6,3.0,4.5;5.8,2.7,4.1;6.2,2.2,4.5;5.6,2.5,3.9;5.9,3.2,4.8;6.1,2.8,4.0;6.3,2.5,4.9;6.1,2.8,4.7;6.4,2.9,4.3;
% 6.6,3.0,4.4;6.8,2.8,4.8;6.7,3.0,5.0;6.0,2.9,4.5;5.7,2.6,3.5;5.5,2.4,3.8;5.5,2.4,3.7;5.8,2.7,3.9;6.0,2.7,5.1;5.4,3.0,4.5;6.0,3.4,4.5;6.7,3.1,4.7;6.3,2.3,4.4;5.6,3.0,4.1;5.5,2.5,4.0;
% 5.5,2.6,4.4;6.1,3.0,4.6;5.8,2.6,4.0;5.0,2.3,3.3;5.6,2.7,4.2;5.7,3.0,4.2;5.7,2.9,4.2;6.2,2.9,4.3;5.1,2.5,3.0;5.7,2.8,4.1];
% m1=[-300,250,0;-500,150,-100;-700,300,0;-450,120,0;-320,-50,0;-600,100,0;0,-90,0];
% m2=[1200,200,0;1800,-350,0;200,0,0;800,100,0;1600,-100,-200;900,100,0;400,-50,-130;300,-100,0;600,270,300;740,0,0;750,0,-200;480,25,30;550,-120,0];
m1=load('data.txt');
m2=load('data2.txt');
u1=mean(m1);%求均值
u2=mean(m2);
%计算类内散度Si和总类内散度Sw
% S1=(m1(1,:)-u1)'*(m1(1,:)-u1)
% S2=(m2(1,:)-u2)'*(m2(1,:)-u2)
% for i=2:7

下载后可阅读完整内容，剩余4页未读，立即下载