线性支持向量机与核 SVM：作业解析

该资源是李星毅同学关于线性支持向量机（Linear Support Vector Machine, SVM）和核SVM的课后作业。主要内容涉及两部分：一是根据不同的条件设计最优分类面，并识别支撑向量；二是通过梯度下降法求解线性SVM，推导梯度并应用到特定的训练样本集。 在第一部分，作业要求在两种不同的条件下（条件和条件）设计最优分类面。对于每个条件，通过列出相应的数学式子，确定了使得损失函数取得最小值的边界情况。在这种情况下，满足约束条件的样本被认为是候选支撑向量。在Primal SVM方法中，如果样本在优化后的对偶问题中对应的拉格朗日乘子非零，则该样本被确认为支撑向量。 在第二部分，作业探讨了使用梯度下降法求解线性SVM的问题。首先，定义了基于Hinge Loss的损失函数，并对其进行了梯度推导。给出了线性SVM梯度下降法的算法流程，包括初始化权重，计算损失函数的梯度，以及权重的更新步骤。然后，使用第2题的训练样本集，应用这个算法，得到最终的权重向量，并根据拉格朗日乘子非零的原则，确定了支撑向量。 总结来说，该资源涵盖了以下关键知识点： 1. **线性SVM**: 如何根据不同的条件设定最优分类面，以及如何识别支撑向量。 2. **Primal SVM**: 在优化问题中，哪些样本满足约束条件并成为支撑向量。 3. **Dual SVM**: 使用对偶问题来判断支撑向量，即对应于非零拉格朗日乘子的样本。 4. **Hinge Loss**: 作为SVM的损失函数，用于衡量模型的误分类程度。 5. **梯度下降法**: 用于求解线性SVM的优化算法，通过迭代更新权重来最小化损失函数。 6. **算法实现**: 展示了梯度下降法的具体步骤，包括损失函数的梯度计算和权重更新。 这些内容对于理解和支持向量机的理论与实践操作至关重要，特别是在机器学习和数据挖掘领域。