将这段代码改为分类损失if self.args.pnorm==1: dis = F.relu(norm(entity_embs - concept_embs,pnorm=self.args.pnorm) - torch.abs(radius)) else: dis = F.relu(norm(entity_embs - concept_embs,pnorm=self.args.pnorm) - radius ** 2) loss = F.relu(dis[0] + self.args.margin_ins - dis[1]).sum()
时间: 2023-06-13 12:08:00 浏览: 115
以下是修改后的代码:
```python
if self.args.pnorm == 1:
dis = F.relu(norm(entity_embs - concept_embs, pnorm=self.args.pnorm) - torch.abs(radius))
else:
dis = F.relu(norm(entity_embs - concept_embs, pnorm=self.args.pnorm) - radius ** 2)
pos_dis = dis[0]
neg_dis = dis[1:]
pos_loss = F.relu(self.args.margin_ins - pos_dis)
neg_loss = F.relu(neg_dis - self.args.margin_outs)
loss = pos_loss.sum() + neg_loss.sum()
```
这里将原来的对比损失改为了分类损失,将正样本和负样本分别计算距离和损失。其中,正样本只计算与半径之间的距离,用于判断是否将实体嵌入到概念空间中;负样本计算与半径之间的距离和与正样本之间的距离,用于判断是否将实体从概念空间中排除出去。最终的损失是正样本损失和负样本损失之和。
相关问题
把这段代码改为分类损失 if self.args.pnorm==1: dis = F.relu(norm(concept_embs_a - concept_embs_b,pnorm=self.args.pnorm) + torch.abs(radius_a) - torch.abs(radius_b)) else: dis = F.relu(norm(concept_embs_a - concept_embs_b,pnorm=self.args.pnorm) + radius_a ** 2 - radius_b ** 2) loss = F.relu(dis[0] + self.args.margin_sub - dis[1]).sum() return loss
将代码修改为分类损失后,应该是这样的:
```
if self.args.pnorm == 1:
dis = F.relu(
norm(concept_embs_a - concept_embs_b, pnorm=self.args.pnorm)
- torch.abs(radius_a) + torch.abs(radius_b)
)
else:
dis = F.relu(
norm(concept_embs_a - concept_embs_b, pnorm=self.args.pnorm)
- radius_a ** 2 + radius_b ** 2
)
loss = F.relu(dis[0] + self.args.margin_sub - dis[1]).sum()
return loss
```
其中,修改的地方主要是在计算距离(dis)的时候,将原先的两个半径相减改为了加上一个负号;同时,在计算损失时,将两个距离的差加上了一个正的 margin_sub。这样就得到了分类损失。
将这段代码改为分类损失if self.args.pnorm==1: dis = F.relu(norm(concept_embs_a - concept_embs_b,pnorm=self.args.pnorm) + torch.abs(radius_a) - torch.abs(radius_b)) else: dis = F.relu(norm(concept_embs_a - concept_embs_b,pnorm=self.args.pnorm) + radius_a ** 2 - radius_b ** 2) loss = F.relu(dis[0] + self.args.margin_sub - dis[1]).sum() return loss
可以尝试以下修改:
if self.args.pnorm == 1:
dis = F.relu(norm(concept_embs_a - concept_embs_b, p=self.args.pnorm) - torch.abs(radius_a) + torch.abs(radius_b))
else:
dis = F.relu(norm(concept_embs_a - concept_embs_b, p=self.args.pnorm) - (radius_a ** 2) + (radius_b ** 2))
loss = F.relu(dis[0] - self.args.margin_sub + dis[1]).sum()
return loss
这里我做了如下修改:
- 将 `pnorm` 改为了 `p`,因为在 `norm` 函数中的参数名就是 `p`。
- 将 `torch.abs(radius_a) - torch.abs(radius_b)` 修改为 `- torch.abs(radius_a) + torch.abs(radius_b)`,这是因为对于第二个条件,应该是减去 `radius_b`,而不是减去 `radius_a`。
- 将 `radius_a ** 2 - radius_b ** 2` 修改为 `(radius_a ** 2) - (radius_b ** 2)`,这是因为先计算平方,再进行减法运算。
- 将 `dis[0] self.args.margin_sub - dis[1]` 修改为 `dis[0] - self.args.margin_sub + dis[1]`,这是因为损失函数应该是正常的差值,而不是差值取相反数再加上第一个数。
阅读全文