交叉熵损失函数中ignore_index

ignore_index是交叉熵损失函数中的一个参数，用于指定要忽略的目标值。在计算交叉熵损失的过程中，会将ignore_index对应的目标值排除在外，不参与梯度计算。当size_average为True时，损失将在未被忽略的目标上进行平均。需要注意的是，ignore_index只适用于目标包含类别索引的情况。

在Pytorch中，可以使用CrossEntropyLoss来实现交叉熵损失函数。示例代码如下：

from torch.nn import CrossEntropyLoss

loss = nn.CrossEntropyLoss()
input = torch.randn(3, 5, requires_grad=True)
target = torch.empty(3, dtype=torch.long).random_(5)
output = loss(input, target)

在这个例子中，input是模型的输出，target是目标类别索引。调用CrossEntropyLoss计算损失时，如果目标值中包含了ignore_index对应的类别索引，那么这些目标值将被忽略，不会对梯度计算产生贡献。<span class="em">1</span><span class="em">2</span><span class="em">3</span>
#### 引用[.reference_title]
- *1* [(三)带权重和ignore_index的交叉熵损失函数](https://blog.csdn.net/lx_ros/article/details/125630607)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"]
- *2* *3* [【深度学习】损失函数系列 (一) 平方损失函数、交叉熵损失函数 (含label_smoothing、ignore_index等内容)](https://blog.csdn.net/qq_43456016/article/details/130459645)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"]
[ .reference_list ]