列表对感知器算法、Fisher 线性判别分析、支持向量机的基本要素进行归纳与对比
时间: 2023-12-21 11:03:14 浏览: 150
机器学习算法总结2:感知机和支持向量机
感知器算法:
- 基本要素:输入向量、权重向量、阈值、激活函数、学习率、迭代次数。
- 算法思想:使用梯度下降法更新权重向量和阈值,使得感知器能够分类正确。
- 优点:简单快速,易于实现。
- 缺点:只能处理线性可分问题,对于非线性问题效果较差。
Fisher 线性判别分析:
- 基本要素:类别数、样本数、样本均值、类内散度矩阵、类间散度矩阵、投影向量。
- 算法思想:通过最大化类间散度矩阵与最小化类内散度矩阵的比值,得到最佳的投影方向,用于分类。
- 优点:对于高维数据具有较好的降维效果,适用于多分类问题。
- 缺点:对于非线性问题效果较差,需要先假设数据符合高斯分布。
支持向量机:
- 基本要素:核函数、支持向量、决策函数、软间隔、正则化参数。
- 算法思想:通过将数据映射到高维空间后,利用最大间隔原则和核函数处理非线性问题,得到最佳的决策边界。
- 优点:对于非线性问题效果较好,具有较高的泛化能力。
- 缺点:需要选择合适的核函数和正则化参数,计算复杂度高。
阅读全文