详解一下BCEWithLogitsLoss的具体数学公式

BCEWithLogitsLoss（Binary Cross Entropy With Logits Loss）是一种常用的二分类损失函数，它直接处理的是未经过sigmoid激活的logit（即线性预测值）而非最终的概率。其数学公式可以这样表示[^1]：

\[
\text{BCEWithLogitsLoss}(x, y) = -\frac{1}{N} \sum_{i=1}^{N} \left[ y_i \log(\sigma(x_i)) + (1 - y_i) \log(1 - \sigma(x_i)) \right]
\]

其中 \( x_i \) 是网络对第 \( i \) 个样本的线性预测，\( y_i \) 是对应的标签（通常是0或1），\( \sigma(x_i) \) 是 \( x_i \) 经过Sigmoid函数后的概率。这个损失函数鼓励模型对于正样本 \( y_i = 1 \)，使得 \( \sigma(x_i) \) 接近1；而对于负样本 \( y_i = 0 \)，则希望 \( \sigma(x_i) \) 接近0。

与nn.BCELoss相对应，BCEWithLogitsLoss通常用于神经网络的输出层，因为它可以直接接受来自线性层的输出，而无需先通过Sigmoid激活。如果网络的最后一层已经应用了Sigmoid激活，则可以使用nn.BCELoss[^2]。