L1正则化和L2正则化是干什么的,二者的区别是?
时间: 2023-12-18 14:08:15 浏览: 89
l1_ls_matlab_L1正则化问题_正则化_
5星 · 资源好评率100%
L1正则化和L2正则化都是为了防止机器学习模型过拟合而采用的一种正则化方法。
L1正则化是在损失函数中加入L1范数,即模型参数的绝对值之和。它的作用是让一部分参数变为0,从而得到一个更稀疏的模型,可以实现特征选择的作用。L1正则化的缺点是对离群值比较敏感。
L2正则化是在损失函数中加入L2范数,即模型参数的平方和。它的作用是让参数的值都比较小,从而防止过拟合。L2正则化相对于L1正则化来说的优点在于对离群值比较鲁棒。
二者的区别在于L1正则化会使得模型的部分参数变为0,从而实现特征选择的目的;而L2正则化只是让模型中的所有参数都比较小,从而防止过拟合。
阅读全文