无类排序损失提升文档级关系抽取性能

实体对的标签在文档级关系抽取任务中扮演着关键角色。传统上，这类任务被看作是一个多标签分类问题，其中目标是识别跨句子中实体对所表达的关系。然而，不同于常规的多标签场景，大部分实体对实际上并不表达任何预定义的关系，而是被标记为“无”或“无关系”。这种情况下，区分无类实例（未表达任何预定义关系的实体对）与预定义关系类别的实例至关重要。 现有的方法往往使用二进制交叉熵（BCE）损失，这种方法过于简化，它仅专注于独立估计每个预定义关系的概率，而忽略了“无关系”这一标签的重要性。实际上，无类别和预定义类别之间存在显著的相关性，因为它们的概率分布相互影响。如果无类别概率增加，那么预定义类别的概率通常会下降。因此，一个完整且准确的模型应当能够同时考虑这些关联。 为了解决这个问题，论文提出了一种新的多标签损失函数，其设计目的是强调预定义类别与无类别标签置信度得分之间的对比，从而更有效地学习和区分这两类实例。这种方法旨在增强模型对文档级RE中可能出现的正负样本不平衡以及错误标记数据的鲁棒性。 通过实验验证，新提出的损失函数在文档级关系抽取任务中表现优异，相比于现有的多标签损失，在识别跨句子实体关系时展现出更好的性能。此外，它也适用于其他多标签任务，例如情感分类，即使在缺乏无类实例用于训练的情况下也能保持良好效果。 总结来说，本文的核心贡献在于提出了一种能有效处理文档级关系抽取中无类标签的新型多标签损失，这有助于提升模型对复杂文本关系的理解和预测能力，从而推动了文档级关系抽取领域的研究进展。