训练集中的两个观测点及其类别为(X1, +1)和(X2, -1),且X1 = X,X2 = -X。求解线性软间隔SVM的对偶问题,假设最优解中这两个观测对应的且,那么参数b的最优解b* 为( ) A 1 B -1 C 0 D 不确定
时间: 2024-03-04 11:51:34 浏览: 91
线性软间隔SVM的对偶问题的求解需要求解拉格朗日乘子 $\alpha$,并根据 $\alpha$ 来计算参数 $w$ 和 $b$。
由题可知训练集中的两个观测点及其类别为(X1, +1)和(X2, -1),且 X1 = X,X2 = -X。设观测点的维度为 $d$,则原始问题的优化目标为:
$$
\begin{aligned}
& \min_{w,b,\xi} \frac{1}{2}\|w\|^2 + C\sum_{i=1}^{n}\xi_i \\
s.t.\quad & y_i(w^T x_i + b) \geq 1 - \xi_i, i=1,2 \\
& \xi_i \geq 0, i=1,2
\end{aligned}
$$
对偶问题为:
$$
\begin{aligned}
& \max_{\alpha} \sum_{i=1}^{n}\alpha_i - \frac{1}{2}\sum_{i,j=1}^{n}\alpha_i\alpha_j y_iy_j(x_i^Tx_j) \\
s.t. \quad & 0 \leq \alpha_i \leq C, i=1,2 \\
& \sum_{i=1}^{n}\alpha_i y_i = 0
\end{aligned}
$$
其中,$x_i$ 和 $y_i$ 分别表示第 $i$ 个观测点的特征向量和类别,$C$ 是正则化参数。
由题可知,最优解中这两个观测点对应的拉格朗日乘子 $\alpha_1$ 和 $\alpha_2$ 均大于 $0$,即两个观测点均为支持向量。因此,最优解中 $w$ 可以表示为 $w = \sum_{i=1}^{n}\alpha_iy_ix_i$,$b$ 可以通过支持向量的函数间隔计算得到,即 $y_i(w^Tx_i+b)=1$,代入 $w$ 的表达式可得:
$$
b = y_1 - w^Tx_1 = y_1 - \sum_{i=1}^{n}\alpha_iy_ix_i^Tx_1
$$
代入 $X_1=X$ 和 $X_2=-X$ 可得:
$$
b = 1 - \alpha_1X^2 - \alpha_2X^2
$$
由于 $\alpha_1$ 和 $\alpha_2$ 均大于 $0$,因此 $b$ 的最优解为负数,即 $b^* < 0$。因此,答案为 B -1。
阅读全文