决策函数的法向量是怎么算出来的

在机器学习中，决策函数可以表示为线性方程的形式：y = wx + b，其中w是特征向量，x是输入向量，b是偏置项，y是输出值。

假设我们有n个训练样本，每个样本都有m个特征。我们可以将所有的训练样本的特征以及对应的标签组成一个矩阵X和一个向量y。矩阵X的每一行表示一个样本的特征，向量y表示每个样本对应的标签。

现在，我们需要找到一个决策函数，使得对于所有的样本i，都有y[i] = w * x[i] + b。我们可以将这个问题转化为一个最小二乘问题，即：

minimize J(w) = (1/2) * sum(y[i] - w * x[i] - b)^2

我们可以通过求解上述最小二乘问题来得到最优的权重向量w和偏置项b。最小二乘问题的解可以表示为：

w = (XTX)^(-1)XTy

其中，XT表示X的转置，(XTX)^(-1)表示XTX的逆矩阵。因此，我们可以通过上述公式计算出最优的权重向量w。决策函数的法向量就是最优的权重向量w。