Lasso回归和Ridge回归有什么区别？

Lasso回归和Ridge回归是两种常见的正则化线性回归方法，它们的区别主要体现在正则化项的选择和影响。

区别如下：
1. 正则化项：Lasso回归使用L1范数作为正则化项，即将回归系数的绝对值之和加入到损失函数中；而Ridge回归使用L2范数作为正则化项，即将回归系数的平方和加入到损失函数中。
2. 特征选择：Lasso回归具有稀疏性，可以用于特征选择，即通过调节正则化参数，可以使得某些特征的系数变为零，从而实现特征选择；而Ridge回归倾向于将特征系数均匀缩小，但不会将其彻底置零。
3. 系数估计：由于L1范数的特殊性质，Lasso回归对异常值具有鲁棒性，能够稳定估计回归系数；而Ridge回归对异常值较为敏感。
4. 多重共线性：当特征之间存在强相关关系时，Lasso回归倾向于选择其中一个相关特征，而Ridge回归会给出较为平滑的系数估计。