生成模型损失函数ROUGE

根据引用和，生成模型中的损失函数ROUGE是用来衡量生成文本与目标摘要之间的相似度的指标。ROUGE由两个部分组成，第一部分是计算生成文本与目标摘要的重叠度，第二部分是考虑到文本长度的优化目标函数。在优化模型的过程中，ROUGE的第一项会被截取，以避免生成文本过长导致ROUGE分数变小。而第二项则会使得模型的输出长度逐渐趋近于实际长度，以解决模型无法控制输出摘要长度的问题。引用中提到，损失函数的计算是基于代码和注释的语言模型的概率分布，如果两个子模型的概率分布不满足理论上的条件，就会产生损失。因此，ROUGE损失函数在训练中能够建立起代码生成与总结之间的关系。<em>1</em><em>2</em><em>3</em>
#### 引用[.reference_title]
- *1* *2* [ACL 2019 GOLC 优化目标损失函数](https://blog.csdn.net/cx943024256/article/details/101100346)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}} ] [.reference_item]
- *3* [生成Python函数一半没问题，当前最「正统」的代码生成是什么样？](https://blog.csdn.net/weixin_39834475/article/details/110027090)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}} ] [.reference_item]
[ .reference_list ]