支持向量机svm算法核函数

支持向量机（SVM, Support Vector Machine）是一种强大的监督学习模型，特别适合解决分类和回归问题。SVM的核心思想是找到最优决策边界（超平面），这个边界能够最大化不同类别之间的间隔，即“间隔最大化”。为了处理非线性的数据，SVM引入了核函数的概念。

核函数的作用是将原始数据从低维空间映射到高维特征空间，使得原本线性不可分的数据变得线性可分。这样做的好处在于我们不需要直接知道映射后的特征是什么，只需要关注映射过程中的内积，也就是核函数的计算。常用的核函数包括：

1. **线性核** (Linear Kernel)：\( K(x_i, x_j) = x_i \cdot x_j \)，简单地计算两个实例的点积。

2. **多项式核** (Polynomial Kernel)：\( K(x_i, x_j) = (x_i \cdot x_j + r)^d \)，其中 \( d \) 是多项式的阶数，\( r \) 是常数项。

3. **径向基函数(RBF)** 或称 **高斯核** (Gaussian Kernel)：\( K(x_i, x_j) = e^{-\gamma ||x_i - x_j||^2} \)，\( \gamma \) 控制了相似度的变化速度，距离越远衰减越快。

4. **sigmoid 核** (Sigmoid Kernel)：一种适用于二分类问题的对数似然函数形式。

选择哪种核函数取决于具体的问题和数据分布。如果数据在原始空间中就线性可分，可以选择线性核；若数据是非线性可分的，则通常会选择 RBF 核，因为它对于高维数据有较好的泛化能力，并且参数较少。