孪生网络（SiameseNetwork）在句子语义相似度计算中的应用 - CSDN文库

143 浏览量更新于2023-05-03 2 收藏 365KB PDF 举报

身份认证购VIP最低享 7 折!

领优惠券(最高得80元）

资源详情

资源推荐

孪生网络（孪生网络（SiameseNetwork）在句子语义相似度计算中的应）在句子语义相似度计算中的应

用用

1，概述

在NLP中孪生网络基本是用来计算句子间的语义相似度的。其结构如下

在计算句子语义相似度的时候，都是以句子对的形式输入到网络中，孪生网络就是定义两个网络结构分别来表征句子对中的句

子，然后通过曼哈顿距离，欧式距离，余弦相似度等来度量两个句子之间的空间相似度。

孪生网络又可以分为孪生网络和伪孪生网络，这两者的定义：

孪生网络：两个网络结构相同且共享参数，当两个句子来自统一领域且在结构上有很大的相似度时选择该模型；

伪孪生网络：两个网络结构相同但不共享参数，或者两个网络结构不同，当两个句子结构上不同，或者来自不同的领域，或者

时句子和图片之间的相似度计算时选择该模型；

另外孪生网络的损失函数一般选择Contrastive loss Function（对比损失函数）。接下来具体看看孪生网络在句子语义相似度

计算中的几篇论文：

2，论文模型介绍

1）Siamese CBOW: Optimizing Word Embeddings for Sentence Representations

该论文提出了一种基于孪生网络+CBOW的方式来无监督式的训练句子的向量表示。网络的结构图如下：

首先给定一个很大的语料库，语料库中的句子要保持原来文章中的顺序，那我们该怎么将这个无监督的任务构造成有监督式的

任务呢？看论文中这个CBOW，其实就是采用了类似word2vec中的CBOW的形式来构造有监督式的任务的。我们给定一个中

心句子si，然后将中心句子的上下句作为正样本（即和中心句子相关的句子），然后从其他句子中随机选择n个句子作为负样

本，以论文中为例，负样本也选择2个。因此就构造成了这样一个句子集合，那么这样一个句子集合就

作为一个样本输入到模型中，以这里的例子为例，就构造成了一个具有5个相同结构相同参数的网络来处理这5个句子。有了

样本之后，标签该怎么定义呢？在这里的真实标签定义如下：

本内容试读结束，登录后可阅读更多

下载后可阅读完整内容，剩余3页未读，立即下载

weixin_38728183

粉丝: 5
资源: 942

会员权益专享

图片转文字

全年可省5，000元立即开通

最新资源

资源上传下载、课程学习等过程中有任何疑问或建议，欢迎提出宝贵意见哦~我们会及时处理！点击此处反馈