python torch 交叉熵损失函数

### 使用 PyTorch 中的交叉熵损失函数

在机器学习领域，尤其是深度学习中，交叉熵损失函数被广泛应用于分类问题。对于多类别的分类任务，`nn.CrossEntropyLoss` 是 PyTorch 提供的一个非常方便的选择[^1]。

此模块不仅实现了标准的 Softmax 层还集成了负对数似然损失 (NLL)，这意味着可以简化模型构建过程而无需显式地添加额外的操作层。具体来说，在前向传播过程中，输入张量会先经过一个隐式的 softmax 变换再传递给 NLL 损失计算部分；而在反向传播期间，则自动处理梯度回传至前面各层所需的信息。

#### 创建并应用 Cross Entropy Loss 函数

为了创建 `CrossEntropyLoss` 对象，可以直接调用其构造器：

import torch.nn as nn

criterion = nn.CrossEntropyLoss()

当准备训练数据时，请注意确保标签是以整数值的形式给出而不是 one-hot 编码形式。这是因为内部已经包含了将 logits 转换成概率分布的过程。假设有一个简单的例子用于说明如何使用这个损失函数来进行单次迭代更新权重参数：

# 假设 batch_size=3, num_classes=5
output = model(input)  # output.shape should be [batch_size, num_classes], e.g., [3, 5]
target = torch.tensor([1, 0, 4])  # target labels must match the number of samples and range from 0 to C-1 where C is classes count.

loss = criterion(output, target)

print(f'Loss value: {loss.item()}')

上述代码片段展示了如何定义损失函数以及怎样利用它来评估模型输出与真实标签之间的差异程度，并据此调整优化方向以最小化该差距。