Python中的SVM：sklearn.svm详析

"这篇深度学习笔记主要探讨了如何在Python中使用支持向量机(SVM)。Python提供了基于libsvm的sklearn.svm库，它不仅封装了libsvm，还提供了一个更强大、更易用的API。在这个库中，最常用的类是svm.SVC（用于分类）和svm.SVR（用于回归）。此外，笔记还提到了可以在sklearn.svm.libsvm中直接调用libsvm原始接口。接下来将详细介绍SVC和SVR以及它们的关键参数设置。" SVM，全称Support Vector Machine（支持向量机），是一种监督学习模型，用于分类和回归任务。在Python的scikit-learn库中，`sklearn.svm.SVC`（Support Vector Classifier）和`svm.SVR`（Support Vector Regression）是SVM的主要实现。 SVC主要用于分类问题，它构建一个间隔最大的决策边界，以最大化不同类别之间的间隔。`svm.SVC`类包含多个可调整的参数，如： 1. `C`: 这是惩罚参数，控制模型复杂度。值越大，模型允许更多的误分类，即模型容忍更多的违反间隔的情况。默认值为1.0，取值范围通常为10^(-5)到10^5，可以使用对数尺度进行调整。 2. `kernel`: 决定了核函数类型，用于处理非线性问题。默认值为'rbf'（径向基函数），其他选项包括线性（'linear'）、多项式（'poly'）、sigmoid（'sigmoid'）等。 3. `degree`: 如果选择了多项式核函数，此参数表示多项式的阶数，默认为3。 4. `gamma`: 对于'rbf'、'poly'和'sigmoid'核函数，此参数控制核函数的宽度。默认值为'auto'，意味着自动根据输入数据的规模计算。 5. `coef0`: 对于多项式和sigmoid核函数，此参数是一个独立的常数项，默认为0.0。 6. `probability`: 如果设为True，模型将在训练时计算概率估计。默认为False。 7. `shrinking`: 如果设为True，模型会使用启发式方法来减小训练集的大小，从而提高效率。默认为True。 8. `tol`: 容错率，用于控制优化过程的停止条件，默认为1e-3。 9. `cache_size`: 内存缓存大小，用于存储核矩阵的部分计算结果，单位为MB。 10. `class_weight`: 如果不同类别的样本数量不平衡，可以通过此参数为不同类别分配不同的权重。 11. `verbose`和`max_iter`: 分别控制日志输出的详细程度和最大迭代次数。 类似地，`svm.SVR`用于回归任务，其参数设置与`SVC`基本相同，但目标是找到一个超平面，使得所有样本点到该超平面的误差平方和最小。 使用SVM时，选择合适的参数至关重要，通常需要通过交叉验证和网格搜索（GridSearchCV）等方法来确定最佳参数组合。理解并正确使用这些参数可以显著提高模型的性能。在实际应用中，应结合具体问题的特点和数据集的特性，对这些参数进行适当调整。