lda线性判别分析例题
时间: 2023-09-28 10:08:22 浏览: 166
LDA-线性判别分析
当然,我可以为您提供一个LDA(线性判别分析)的例题。假设我们有一组二维数据,其中包含两个类别。我们的目标是通过LDA找到一个投影方向,将数据映射到一维空间上,使得不同类别之间的距离最大化,同一类别内部的样本距离最小化。
假设我们有以下两个类别的样本数据:
类别1:(1, 2), (2, 3), (3, 3)
类别2:(2, 1), (3, 2), (4, 1)
首先,我们需要计算每个类别的均值向量。对于类别1,均值向量为:
μ1 = ( (1+2+3)/3, (2+3+3)/3 ) = (2, 2.67)
对于类别2,均值向量为:
μ2 = ( (2+3+4)/3, (1+2+1)/3 ) = (3, 1.33)
然后,我们计算类内散度矩阵Sw。类内散度矩阵的计算方式是每个类别内部样本与其均值向量之间的差异的协方差矩阵的和。
对于类别1,计算协方差矩阵为:
S1 = ((1-2)^2 + (2-2.67)^2 + (3-2.67)^2)/3 = 0.89
对于类别2,计算协方差矩阵为:
S2 = ((2-3)^2 + (3-1.***均值向量之间差异的协方差矩阵。
Sb = ((2-3)^2 + (2.67-1.33)^2)/2 = 1.56
接下来,我们需要计算投影方向的向量w。我们需要最大化类间散度矩阵Sb,并最小化类内散度矩阵Sw。
通过计算特征值和特征向量,我们可以得到投影方向的向量w。在这个例子中,由于是二维数据,投影方向是一维的。
假设w = (w1, w2)是投影方向的向量,其中w1是x轴方向的分量,w2是y轴方向的分量。
由于投影方向是一维的,所以我们可以假设w2 = 0,那么我们只需要找到w1即可。
通过计算Sw^-1 * Sb的特征值和特征向量,我们可以得到w1。
最后,我们可以将数据样本在投影方向上进行投影,并根据投影的结果来进行分类。
这就是一个简单的LDA线性判别分析的例题。希望可以帮助到您!
阅读全文