softmax边界惩罚损失函数

Softmax边界惩罚损失函数，也称为交叉熵损失函数，通常用于多分类问题中的神经网络训练，尤其是像softmax层后的预测任务。它计算的是模型预测的概率分布与真实标签概率之间的差异。公式可以表示为：

对于每个样本i，假设我们有N个类别，模型预测的概率向量P_i = [p_{i1}, p_{i2}, ..., p_{iN}]，真实的类别是j（其中0 <= j < N），那么单个样本的交叉熵损失L_i为：

L_i = - log(p_{ij})

整个数据集的平均交叉熵损失就是所有样本损失的加权和，加上了一个可选的正则化项（如L2范数），以防过拟合：

L = (-1/N) * Σ(log(p_{ij})) + λ * Σ(w_k^2)

这里λ是正则化系数，w_k代表权重。