"模式识别原理之判别函数及应用PPT讲义"

;""""• 线性判别函数的一般形式可以表示为：• g(x) = wT x + w0• 其中，w为权向量，w0为偏置项。• 判别函数的几何意义是根据输入模式 x在特征空间中的位置，通过判别函数 g(x)的正负来判别 x所属的类别。• 如果 g(x) > 0，则 x属于 ω1类；• 如果 g(x) < 0，则 x属于 ω2类。• 如果 g(x) = 0，则 x在分类面上。• 对于两类模式问题，选取合适的权向量w和偏置项w0，就能确定一个划分模式空间的分类面。• 根据模式分类的原则，希望选取的分类面能够使同类模式在该面的同一侧，不同类模式在该面的两侧。 3.1 线性判别函数3.1.3 用最小风险原则确定线性判别函数• 在模式分类中，往往需要权衡错误分类所带来的不同代价。• 用最小风险原则确定线性判别函数，即要使分类面的判别函数 g(x)满足：对于每个模式 x∈ω1，要求 g(x) > 0；对于每个模式 x∈ω2，要求 g(x) < 0；对于这两类模式问题， g(x)值的绝对值越大，不确定性也越小，即分类越准确。这便是最小风险原则确定线性判别函数的基本思想。• 此时，风险函数可以定义为：• R = λ1P( ω1 |x) + λ2P( ω2 |x)• 其中，P( ω| x)是给定模式 x时，x所属的类别是 ω的后验概率；λ1和λ2是两类分类模式的代价因子。• 最小化风险函数，就能确定最佳的判别函数，从而实现模式的准确分类。 3.2 广义线性判别函数• 在实际应用中，有一些分类问题并不适合用线性判别函数进行分类。• 广义线性判别函数便是用来处理那些不适合用线性判别函数分类的问题。• 其中，一个典型的例子就是模式空间中不同类模式的方差矩阵不相等。• 它的一般形式可以表示为：• g(x) = lnP(ω|x)• 其中，P(ω|x)为类条件概率密度函数；g(x)为判别函数。• 广义线性判别函数是针对一般的非线性问题而推广的。它将模式分类问题转化为对数似然比的形式，通过计算类条件概率密度函数的比值来确定模式的类别。• 在实际应用中，广义线性判别函数可以处理更加复杂的分类问题，并且对于一些特殊的模式空间而言，它往往能取得更好的分类效果。 3.3 分段线性判别函数• 对于一些特殊的分类问题，也可以采用分段线性判别函数进行分类。• 分段线性判别函数是将整个模式空间分为若干个线性可分的区域，采用不同的线性判别函数进行分类。• 这样的方式能够更好地适应一些非线性的分类问题。• 但是，分段线性判别函数在实际应用中需要花费更多的计算成本和存储成本，因此在选择模式分类方法时需要权衡不同的因素。 3.4 模式空间和权空间• 模式空间是指所有可能的模式构成的空间。• 权空间是判别函数中各个参数所构成的空间。• 模式空间和权空间是模式识别中非常重要的两个概念。• 在模式分类中，需要通过学习得到判别函数的权向量w和偏置项w0。• 模式空间和权空间的选择，直接影响着模式分类的效果和精度。• 因此，在选择判别函数时，需要充分考虑模式空间和权空间的特点，以及它们之间的映射关系。 3.5 感知器算法• 感知器算法是一种简单而有效的模式分类算法。• 它通过不断地迭代，调整权向量w和偏置项w0，逐渐使分类结果趋于理想状态。• 感知器算法能够处理线性可分的模式分类问题，并且在实际应用中取得了一定的成功。• 它的基本思想是通过不断地迭代，寻找合适的权向量w和偏置项w0，使得分类面能够对模式进行准确分类。 3.6 采用感知器算法的多类模式的分类• 在实际应用中，往往需要进行多类模式的分类。• 通过采用感知器算法，也可以处理多类模式的分类问题。• 利用感知器算法，可以将多类模式转化为多个二类模式，从而实现对多类模式的准确分类。 3.7 势函数法 — 一种确定性的非线性分类算法• 势函数法是一种确定性的非线性分类算法。• 它通过寻找势函数的极小值点，来确定分类面，从而实现对非线性模式的准确分类。• 势函数法在处理一些非线性分类问题上，能够取得较好的效果。• 它的基本思想是将模式分类问题转化为寻找势函数的极小值点的问题，通过求解势函数的极小值点来确定模式所属的类别。 结尾：通过本文的学习，我们深入了解了模式识别原理中的判别函数的概念、分类方法以及各种相关算法。线性判别函数、广义线性判别函数、分段线性判别函数等不同类型的判别函数，能够适应不同的分类问题，提高模式识别的准确性和效率。同时，感知器算法、势函数法等分类算法，为模式识别的实际应用提供了重要的工具和方法。希望通过对模式识别原理中判别函数的学习与探讨，能够为相关领域的学习者和研究者提供一定的参考和指导。".