3.哪些准则函数能够对线性不可分的情况也能给出 “次优解”？bc a.一次准则函数 b.最小错分模式数目准则 c.最小方差准则 d.Fisher准则函数 4.已知二次准则函数（最小方差准则）： 1）求其对的梯度 2）基于伪逆计算法写出的最佳权矢量求解公式。 3）写出梯度下降法中的更新公式

3.答案是d.Fisher准则函数。Fisher准则函数可以在线性不可分的情况下给出次优解。

4.对于二次准则函数（最小方差准则）：
1）它的梯度是：$2X^T(Xw-y)$，其中$X$是特征矩阵，$y$是标签向量，$w$是权矢量。
2）基于伪逆计算法的最佳权矢量求解公式是：$w=(X^TX)^{-1}X^Ty$。
3）梯度下降法中的更新公式是：$w=w-\alpha\nabla J(w)$，其中$J(w)$是损失函数，$\alpha$是学习率。对于二次准则函数，更新公式为$w=w-\alpha X^T(Xw-y)$。

相关问题

SVM 对于线性不可分数据，使用哪种（哪些）核函数比较合适？

当数据集是线性不可分时，可以使用核函数将数据映射到高维空间，使得数据在高维空间中线性可分。常用的核函数包括：

1. 多项式核函数（polynomial kernel）：将数据映射到高维空间，可以处理某些非线性问题。公式为：$K(x,y) = (\langle x,y\rangle + c)^d$，其中$c$为常数，$d$为多项式的次数。

2. 高斯核函数（Gaussian kernel）：也称为径向基函数（radial basis function，RBF）核函数，是最常用的核函数之一。公式为：$K(x,y) = \text{exp}(-\gamma\|x-y\|^2)$，其中$\gamma$为调节函数间距离的参数。

3. sigmoid 核函数：公式为：$K(x,y) = \tanh(\alpha\langle x,y\rangle + c)$，其中$\alpha$和$c$为常数。

需要注意的是，选择合适的核函数需要基于具体的问题和数据集进行实验和调整。

准则不同，得到的线性判别函数也不同，是对的吗？

### 回答1：
是的，准则不同，得到的线性判别函数也会不同。因为不同的准则会对模型产生不同的影响，进而影响模型的判别能力和泛化能力。因此，在选择线性判别函数时，需要根据具体的应用场景和数据特点来选择合适的准则，以得到更好的分类效果。

### 回答2：
是的，准则不同会导致得到的线性判别函数也不同。

线性判别函数是一种用于将不同类别的样本进行判别的函数。它通常基于某种准则来寻找一个最佳的分类超平面，以最好地分离不同类别的样本。

准则是指确定最佳分类超平面的标准或目标函数。不同的准则会衡量不同的因素，从而导致得到的线性判别函数不同。

例如，常见的线性判别函数包括感知机算法和支持向量机算法。感知机算法的准则是最小化分类错误的次数，通过不断地调整超平面来减少错误分类的样本数量。而支持向量机算法的准则是最大化分类超平面与最近样本点之间的距离，以获得最大的间隔。

另外，还有其他的准则如最小二乘法、最小均方误差等，它们针对的问题和考虑的因素也不同。

因此，由于准则的不同，导致了得到的线性判别函数也不同。在实际应用中，选择适合问题需求的准则是非常关键的，可以根据具体情况进行选择和优化，以得到更好的分类效果。

### 回答3：
是的，准则不同能得到不同的线性判别函数。线性判别函数是根据一组特征向量对数据进行分类的函数。不同的准则意味着对数据进行分类时所考虑的标准和目标不同。

在机器学习和模式识别中，常用的线性判别函数有Fisher判别和感知器判别。这两种判别方法的准则和目标不同，因此得到的线性判别函数也不同。

Fisher判别是一种监督学习方法，它通过最大化两个类别之间的类内散度和最小化类别之间的类间散度来选择最佳的判别函数。它的准则是为了使得类内差异最小，同时使得类间差异最大，从而达到更好的区分不同类别的目标。

感知器判别是一种经典的二元线性分类方法，它通过不断调整权重向量使得分类错误的样本点逐渐被正确分类。感知器的准则是使得分类边界尽可能地与训练样本分开，从而实现最小化分类错误率的目标。

由于Fisher判别和感知器判别的准则和目标不同，它们得到的线性判别函数也不同。因此，准则的不同对于线性判别的结果有着重要的影响。在实际应用中，我们可以根据具体的问题和任务选择适合的准则来得到更好的线性判别函数。