交叉熵损失函数和负对数似然损失

交叉熵损失函数和负对数似然损失函数是在机器学习中常用的损失函数，用于衡量模型输出与真实标签之间的差异。

交叉熵损失函数是一种常用的分类问题损失函数。它通过计算模型输出的概率分布与真实标签的概率分布之间的交叉熵来衡量两者的差异。在pytorch中，可以使用torch.nn.CrossEntropyLoss()函数来计算交叉熵损失。这个函数会同时计算softmax函数和交叉熵，所以输入的模型输出不需要经过softmax函数处理。

负对数似然损失函数是一种常用的用于最大似然估计的损失函数。在二分类问题中，假设模型的输出是一个介于0和1之间的概率值，表示为θ。负对数似然损失函数可以用来衡量模型输出θ与真实标签0或1之间的差异。当模型输出θ接近1时，即模型预测为正例时的概率较大，负对数似然损失函数的值较小；当模型输出θ接近0时，即模型预测为负例时的概率较大，负对数似然损失函数的值也较小。在pytorch中，可以使用torch.nn.functional.nll_loss()函数来计算负对数似然损失。

综上所述，交叉熵损失函数和负对数似然损失函数都是用来衡量模型输出与真实标签之间的差异的常用损失函数。交叉熵损失函数适用于分类问题，而负对数似然损失函数适用于二分类问题。在实际应用中，根据具体的问题和需求选择合适的损失函数来训练模型。<span class="em">1</span><span class="em">2</span><span class="em">3</span>
#### 引用[.reference_title]
- *1* *3* [损失函数-负对数似然和交叉熵(Pytorch中的应用)](https://blog.csdn.net/tcn760/article/details/123910565)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"]
- *2* [15/4/2022交叉熵损失函数和负对数似然损失](https://blog.csdn.net/weixin_44228389/article/details/124202843)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"]
[ .reference_list ]