![](https://csdnimg.cn/release/download_crawler_static/10931500/bg7.jpg)
1.3 线性分类的一个例子 3
1.3 线性分类的一个例子
下面举个简单的例子,一个二维平面(一个超平面,在二维空间中的例子就是一条直线),如下图所示,平
面上有两种不同的点,分别用两种不同的颜色表示,一种为红颜色的点,另一种则为蓝颜色的点,红颜色的线表
示一个可行的超平面。
图 1.2: 一个二维平面上线性分类问题的例子
从图1.2中我们可以看出,这条红颜色的线把红颜色的点和蓝颜色的点分开来了。而这条红颜色的线就是我
们上面所说的超平面,也就是说,这个所谓的超平面的的确确便把这两种不同颜色的数据点分隔开来,在超平面
一边的数据点所对应的 y 全是 –1,而在另一边全是 1。
接着,我们令分类函数
1
f(x) = w
T
x + b (1.3.1)
显然,如果 f(x) = 0,那么 x 是位于超平面上的点。我们不妨要求对于所有满足 f(x) < 0 的点,其对应的 y 等
于 –1,而 f(x) > 0 则对应 y = 1 的数据点。
2 3
图 1.3: 一个二维平面上线性分类问题的例子:正样例和负样例
当然,有些时候,或者说大部分时候数据并不是线性可分的,这个时候满足这样条件的超平面就根本不存在
(不过关于如何处理这样的问题我们后面会讲),这里先从最简单的情形开始推导,就假设数据都是线性可分的,
亦即这样的超平面是存在的。
更进一步,我们在进行分类的时候,将数据点 x 代入 f(x) 中,如果得到的结果小于 0,则赋予其类别 –1,
如果大于 0 则赋予类别 1。如果 f(x) = 0,则很难办了,分到哪一类都不是。
1
提醒:下文很大篇幅都在讨论着这个分类函数。
2
注:图1.3中,定义特征到结果的输出函数 u = w · x − b,与我们之前定义的 f (x) = w
T
x + b 实质是一样的。
3
有一朋友飞狗来自 Mare_Desiderii,看了上面的定义之后,问到:请教一下 SVM functional margin 为 ˆγ = y(w
T
x + b) = yf(x)
中的 y 是只取 1 和 –1 吗?y 的唯一作用就是确保 functional margin 的非负性?真是这样的么?当然不是,详情请见本文评论下第 43 楼。