kgtransformer
时间: 2023-10-09 19:13:36 浏览: 96
kgTransformer是一种在Transformer模型中应用于知识图谱的方法。它通过Triple Transformation策略将带有属性的边(relation)转换为不带属性的有向边,并使用MoE适应GNN的稀疏激活特性。这种方法的主要思想是将图作为序列输入到Transformer中进行预训练和微调。最近,在KDD'22会议上有一篇介绍使用transformers结构进行知识图嵌入(KGe)的新颖论文。
相关问题
kgTransformer
kgTransformer是一种基于Transformer的图神经网络(GNN)。它的主要思想是将图作为序列,然后将序列输入到Transformer中进行预训练和微调。为了实现这个目的,首先需要准备数据。kgTransformer使用自我监督的预训练策略,可以处理复杂的逻辑查询。它具有较强的泛化能力,通过设计掩蔽的预训练和微调框架来实现。整个KG预训练和推理框架的架构如图2所示。<span class="em">1</span><span class="em">2</span><span class="em">3</span>
#### 引用[.reference_title]
- *1* *3* [知识图谱顶会论文(KDD-2022) kgTransformer:复杂逻辑查询的预训练知识图谱Transformer](https://blog.csdn.net/Louise_Trender/article/details/127392751)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"]
- *2* [KDD 2022 | kgTransformer:基于知识图谱与Transformer的复杂逻辑查询](https://blog.csdn.net/c9Yv2cf9I06K2A9E/article/details/126716072)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"]
[ .reference_list ]
阅读全文