机器学习算法所用损失函数汇总
时间: 2023-10-21 10:29:55 浏览: 130
机器学习算法汇总
机器学习算法使用的损失函数有很多种,下面是一些常见的损失函数汇总:
1. 均方误差(Mean Squared Error,MSE):用于回归问题,计算预测值与真实值之间的平均差的平方。
2. 交叉熵损失(Cross-Entropy Loss):用于分类问题,衡量预测概率分布与真实标签之间的差异。
3. 对数损失(Log Loss):也用于分类问题,基于对数函数的损失函数,用于测量分类模型的不确定性。
4. Hinge损失:用于支持向量机(SVM)中的二元分类问题,对于误分类的样本给予一定的惩罚。
5. KL散度(Kullback-Leibler Divergence):衡量两个概率分布之间的差异,常用于生成模型中。
6. Huber损失:类似于均方误差,但对异常值(outliers)具有鲁棒性。
7. 绝对值损失(Absolute Loss):也称为L1损失,计算预测值与真实值之间的绝对差。
8. 分类误差(Classification Error):衡量分类模型在所有样本上的错误率。
这只是一部分常见的损失函数,不同的机器学习算法和任务可能会使用不同的损失函数。
阅读全文