L1/L2范数标准化

L1和L2范数标准化是机器学习中常用的正则化方法。L1范数是指权重参数的绝对值之和，而L2范数是指权重参数的平方和的平方根。L1范数和L2范数的差别在于它们对权重参数的惩罚方式不同。

L1范数标准化会倾向于产生稀疏的权重矩阵，即将一些权重参数变为0，这有助于特征选择和模型简化。由于L1范数的下降速度比L2范数快，当权重参数接近0时，L1范数可以更快地将其变为0。因此，L1范数标准化可以用作特征选择的方法，去除对模型贡献较小的特征。

相比之下，L2范数标准化会使权重参数更加平滑。由于L2范数的下降速度相对较慢，它更加倾向于将权重参数均匀地分布在不同的特征上，避免过分依赖某个特征。L2范数标准化有助于防止模型过拟合，提高模型的泛化能力。

因此，选择使用L1范数还是L2范数标准化取决于具体的问题和数据集特点。如果希望进行特征选择或模型简化，可以使用L1范数标准化。如果希望平滑权重参数并防止过拟合，可以使用L2范数标准化。<span class="em">1</span><span class="em">2</span><span class="em">3</span>
#### 引用[.reference_title]
- *1* *2* *3* [L1/L2范数](https://blog.csdn.net/qq_29053993/article/details/90900123)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}}] [.reference_item style="max-width: 100%"]
[ .reference_list ]