1、已知模式样本为 ω1:[0,1]T,[1,2]T ω2:[1,0]T,[2,1]T 用最小平方误差(LMSE)算法求解判决函数。(15分)

首先，我们需要将样本数据转化为矩阵形式：

$$
X_1 = \begin{bmatrix}0 & 1\\1 & 2\end{bmatrix}, \quad X_2 = \begin{bmatrix}1 & 0 \\2 & 1\end{bmatrix}
$$

对于二分类问题，我们可以使用Fisher线性判别分析，最小化两个类别之间的类内平方误差（即方差）并最大化两个类别之间的类间距离。其中，类内平方误差可以表示为：

$$
S_w = \sum_{i \in \omega_1} (x_i - \mu_1)(x_i - \mu_1)^T + \sum_{i \in \omega_2} (x_i - \mu_2)(x_i - \mu_2)^T
$$

其中，$\mu_1$和$\mu_2$分别为两个类别的均值向量，$x_i$为第$i$个样本向量。类间距离可以表示为：

$$
S_b = (\mu_1 - \mu_2)(\mu_1 - \mu_2)^T
$$

为了最小化类内平方误差，我们需要求出每个类别的均值向量，即：

$$
\mu_1 = \frac{1}{N_1}\sum_{i \in \omega_1} x_i, \quad \mu_2 = \frac{1}{N_2}\sum_{i \in \omega_2} x_i
$$

其中，$N_1$和$N_2$分别为两个类别的样本数量。

然后，我们可以使用最小平方误差（LMSE）算法求解判决函数。假设我们的判决函数为：

$$
y(x) = w^Tx + w_0
$$

其中，$w$为权重向量，$w_0$为偏置项。我们需要求解的就是$w$和$w_0$。

首先，我们可以将样本数据矩阵$X_1$和$X_2$分别按列拼接起来，得到样本矩阵$X$和标签向量$y$：

$$
X = \begin{bmatrix}0 & 1 & 1 & 2\\1 & 2 & 2 & 1\end{bmatrix}, \quad y = \begin{bmatrix}1 \\1 \\ -1\\ -1\end{bmatrix}
$$

其中，正样本的标签为$1$，负样本的标签为$-1$。

接下来，我们可以利用最小平方误差（LMSE）算法求解$w$和$w_0$。首先，我们需要求解最优的$w$：

$$
w = (X X^T)^{-1} X y
$$

然后，我们可以求解$w_0$：

$$
w_0 = \frac{1}{2}(m_1 + m_2)
$$

其中，$m_1$和$m_2$分别为正样本的$y(x)$值和负样本的$y(x)$值的平均值。

综上所述，我们可以得到最终的判决函数为：

$$
y(x) = \begin{cases}1, & w^Tx + w_0 > 0\\-1, & w^Tx + w_0 \leq 0\end{cases}
$$

其中，$w$和$w_0$的值为：

$$
w = \begin{bmatrix}-1 & 1\end{bmatrix}^T, \quad w_0 = -\frac{3}{2}
$$

因此，判决函数为：

$$
y(x) = \begin{cases}1, & -x_1 + x_2 -\frac{3}{2} > 0\\-1, & -x_1 + x_2 -\frac{3}{2} \leq 0\end{cases}
$$