逻辑回归的损失函数不用 MSE(L2 loss)作为损失函数而采用交叉熵损失

逻辑回归是一种用于解决二分类问题的线性模型，其目的是预测一个事件发生的可能性。MSE（均方误差），作为一种连续型的损失函数，适用于目标变量是连续数值的情况，比如房价预测。但在逻辑回归中，我们关心的是事件发生的概率而非绝对偏差，因为二分类问题的结果本质上就是0（非事件发生）和1（事件发生）的概率。

交叉熵损失，又称作负对数似然损失，是针对分类任务设计的一种常用损失函数。它非常适合逻辑回归这样的模型，原因有以下几点：

1. **概率解释**：交叉熵与预测概率紧密相关，它直接测量了模型预测的概率分布与真实标签分布的差距，能够更好地指导模型学习概率估计。

2. **凸性**：交叉熵损失函数是凸函数，这意味着它不存在局部最小值，有利于梯度法找到全局最优解。

3. **避免过拟合**：当预测概率接近1或0时，交叉熵对错误的惩罚更大，鼓励模型做出更明确的决策，从而降低过拟合风险。

4. **类别不平衡**：如果类别分布不均衡，交叉熵可以更好地处理这种情况，因为它不会偏向于多数类别。

因此，对于逻辑回归这类预测离散类别的模型，采用交叉熵损失函数能够提供更好的性能和模型解释性。