基于随机游走聚合的图神经网络RAW-GNN的性能验证

+v：mala2277获取更多论文RAW-GNN：基于随机游走聚集的图神经网络天津大学智能与计算学院，天津，中国2Meituan，北京，中国3香港理工大学卫生科技及资讯学系，香港九龙{金迪，wr 1895，葛猛，何东晓}@ tju.edu.cn，张伟雄@ polyu.edu.hk摘要基于图卷积的方法已被广泛应用于同构图的表示学习，其中具有相同标签或相似属性的节点倾向于彼此连接。由于这些方法使用的图卷积网络（GCN）的同伦假设，它们不适合于具有不同标签或不相似属性的节点往往相邻的异质有几种方法已已经成功地应用于各种图形问题，例如， 节点分类、图分类、链接 预测和异常检测[Wanget al. ，2022;Yuetal. ，2021]。MPNN运行迭代过程，在每次迭代中，每个节点将其特征作为消息发送给其邻居，然后聚合来自其他节点的消息以更新其表示。GCN[Kipf and Welling，2017]作为一个典型的MPNN，在同质性假设下工作-即，大多数连接的节点来自同一类，并且具有相似的[试图解决这个问题，但美德.先知-愿 GCN及其变体，如GraphSAGEHamil-它们不改变GCN的基本聚集机制，因为它们依赖于求和算子来聚集来自相邻节点的信息，这隐含地服从同质性假设。在这里，我们引入了一种新的聚合机制，并开发了一种基于随机游走聚合的图神经网络（RAW-GNN）方法。该方法将随机游走策略与图神经网络相结合。该方法利用广度优先随机游走搜索来捕获同质信息，利用深度优先搜索来收集异质信息。该算法用基于路径的邻域代替传统的邻域这些设计使得RAW-GNN既适用于同亲图又适用于异亲图。大量的实验结果表明，新方法在各种同质和异质图上都达到了最先进的性能。1介绍图在现实世界中无处不在，如社会网络、大脑网络、交通网络和引文网络。网络分析[Wanget al. ，2016;Jinetal. ，2021]已经在许多领域中被广泛研究和广泛应用，从计算机科学到社会科学、生物学、物理学等等。最近，消息传递神经网络（MPNN）[Kipf和Welling，2017]通讯作者ton等人，2017]，具有强大的图形学习能力，并在具有同质性的网络上的许多下游任务上表现出出色的性能。然而，许多现实世界的网络并不满足同构假设。但是，存在许多异质或低同质性网络，其中大多数相邻节点可能属于不同的类，并具有不同的属性。例如，在蛋白质结构中，一种氨基酸类型更容易连接到不同的氨基酸类型，而不是相同的氨基酸类型;在电子邮件网络中，垃圾邮件用户经常与正常用户联系;在电子商务网络中，欺诈者更容易连接到同谋，而不是其他欺诈者。传统的GCN不是为异质网络设计的，它们使用基于同质假设的消息传播机制，因此，在使用这种消息传播方法的异质网络上的传播期间，来自不同类别的信息将混合。为了处理GCN中的同质性限制，已经提出了几种方法。基于它们使用的聚集机制，这些方法可以分为两类：（1）在聚集中调整不同标签的邻居之间的注意力权重的方法，其包括GGCN [Yanet al. ，2021]，CPGNN[Zhuet al. ，2021 a]、HOG-GCN [Wanget al. ，2022]，GNN-LF/HF [Zhu等人，2021b]和BM-GCN [Heet al. ，2022]。从本质上讲，这些方法在异质性信息的指导下为每个连接的节点对分配 权 重 。 具 体 而 言 ， 标 签 指 导 方 法 [Zhuet al. ，2021a;Wanget al. ，2022;Heet al. ，2022]将标签信息集成到它们的框架中，并聚合邻居中具有相同标签的节点，并降低具有不同标签的邻居的聚合度; ，2021;Zhuetal. ，2021b]将注意力权重从arXiv：2206.13953v1 [cs.LG] 2022年6月+v：mala2277获取更多论文−−∈∈--∈||联系我们我们的服务 ||}我我我我我我[0，1]到[ 1，1]。因此，相同类型标签的节点之间的消息被分配了正权重，这促进了同一类中的消息传递，而不同标签的节点之间的消息被赋予了负值，防止不同的邻居相互传递有害和不相关的信息。(2)方法直接聚集高阶邻居节点之间的消息，包括Geom-GCN[Peiet al. ，2020]、H2GCN [Zhu等人，，2020]、GPR-GNN [Chienet al. ，2021]和LINKX [Limet al. ，2021]。这些方法假设直接相邻的邻域对于异质网络可能是异质主导的，但是高阶邻域是同质主导的，这可以为目标节点提供更多有用的信息。通过显式地聚集来自高阶邻域的信息，这些方法在一定程度上缓解了异质性问题。然而，这些方法并没有改变GCN的基本聚集机制，因为聚集过程中的求和算子隐含地服从于同伦假设。具体来说，标签引导方法试图将不同标签的节点之间的权重学习为0。实际上，这相当于省略了所述聚合中的异质节点的信息，对于网络表示学习和下游任务很有用在签名消息引导方法中，权重1是基于对具有两种标签的图的分析而引入的，因此这种设计仅对具有接近2的小类数的网络有效，而对具有大类数的网络不起作用。简而言之，这些设计在一定程度上缓解了同质性限制问题此外，现有的方法，直接聚合更高-顺序邻居使用经典的求和聚合器来基于它们到目标节点的距离来聚合更高阶的邻居，并且将聚合结果与不同的距离连接。这些方法也受到求和聚合器的约束。为了解决这些问题，我们引入了一种新的聚合机制，并提出了一种基于随机游走聚合的图神经网络，简称为RAW-GNN。我们将随机游走采样方法融入到图神经网络中，并将传统的邻域扩展为基于k跳路径的邻域。由随机游走形成的k跳路径保留了随机游走序列中这k个节点上的原始属性以及通过这种方式，基于路径的邻域可以比传统的邻域更好地表示目标节点的邻域分布此外，我们利用广度优先搜索随机游走（BFS）来捕获同质信息和深度优先搜索（DFS）收集异质信息。为了超越GCN现有的聚集机制，充分利用基于路径的邻域，我们采用了一种基于顺序递归神经网络（RNN）的聚集器，它可以考虑随机游走所保留的邻域节点的顺序信息.RNN的优势它们可以处理相邻节点的不同属性，图1：现有方法省略了到目标节点的不同距离的节点之间的一些直接消息通道，如边缘e1，3和e2，3。RAW-GNN采用通过随机游走检测的基于路径的邻域来解决这个问题。该方法能够以最小的信息混合更好地提取异质（和同质）邻域分布，并且能够使模型根据不同的网络特征自动在同质和异质之间做出权衡。2预赛我们现在提出的符号和相关的定义，包括基于路径的邻域和广义同伦比，这是我们的工作很重要。2.1基本符号设G=（V，E，X）表示一个无向、无权、属性化网络，其中V=v1，v2，.，v n是n个节点的集合，X Rn×f是节点属性的集合。 每个节点i都与f个属性xi相关联，这些属性构成X的第i行. E=e ijV V是由邻接矩阵A=[aij]Rn×n表示的一组边，其中如果节点vi和vj相连，则a ij= 1，否则aij=0。在本文中，我们专注于半监督节点分类，任务。在半监督节点分类任务中，每个节点属于类cC，C是类的数量。这里，节点的标签在集合VL中给出。每个节点v i V L被分配有标签y i L=1，2，. C.节点分类任务的目标是预测节点集合V\VL中所有未标记节点的标签。2.2消息传递神经网络在消息传递神经网络中，邻域被定义为距离一个或多个跳的邻居节点来自附近节点的消息被聚合到目标节点并迭代地更新。MPNN的第1层可以定义如下：n（l）=aggregate（l）.，h（l−1）：i∈N，其适应了对异质网络的需要。菲-最后，我们使用注意力机制来学习重要的东西h（l）=combine（l）。h（l−1），n（l）（一）+v：mala2277获取更多论文我我−∈我我E|{∈}|||×→Σpkpk+1 ∈E，k=E其中h（l）是第l层r中节点i的特征向量。最佳向量h（0）是xi，并且Ni是节点i的邻居节点的集合。不同的选择Ni，aggregate（l）和combine（l）产生不同的模型。通常，节点i的邻居节点要么是i的相邻节点，要么是i的k跳邻居节点。 在下面的小节中，我们将定义另一种基于路径的邻域。2.3基于路径的邻域基于路径的邻域已经被应用于异构图[Fuet al. ，2020]和知识图[Duet al. ，2021]。在这里，我们修改他们的定义，使其适用于异质图。形式上，路径P是de-3.1概述为了让聚合机制真正超越同质性假设，本文提出了一种新的方法，该方法由四个组件组成：随机游走生成器，基于RNN的路径聚合器，基于注意力的策略内组合器和策略间组合器。我们的方法RAW-GNN的整个框架如图2所示。不同的-借鉴其他GCN的框架，我们将同源和异源信息分别编码到两个不同的通道中。具体来说，我们使用两个随机游走生成器来采样k跳路径，即，采用广度优先搜索随机游走（BFS）生成器对同质邻域分布进行采样，采用深度优先搜索（DFS）生成器对异质邻域分布进行采样。以有序列表P={v p，v p，...，v p}，邻区分布 每种采样策略其中v1 2∈V，k=1，2，...，K和eK（BFS或DFS）将对多条路径进行采样，以便捕获更准确的邻域分布。之后一，二，K1，K是路径的长度。基于路径的节点i的邻居表示为Pi，其中列表vpK中的结束节点为vi。由策略s S收集的节点i的所有基于路径的邻居Pi形成基于路径的邻居Ns，其中S是策略的集合换句话说，所有的Pi∈Ns。2.4广义边同质比边缘同质性比[Zhuet al. ，2020年] 测量图中的整体同态性。具体地，它测量连接具有相同标签的节点的边的分数，并且它被定义为H标签（G）=（u，v）：eu，v E yu=yv/E. 该指标基于节点标签。 在这里，我们将边同态比推广到节点特征首先，我们将两个节点之间的相似性函数定义为sim：VV[0，1]。该函数应具有这样的性质，即当节点i和节点j相似时，sim（i，j）接近1，而当节点i和节点j不相似时，sim（i，j）接近0。则广义边同态比HE：G→[0，1]定义为：BFS邻域路径和DFS邻域路径，两个基于RNN的路径聚合器用于聚合路径中节点的有序属性以形成路径嵌入。然后，利用注意力机制分别从DFS策略和BFS策略中学习不同路径的重要性，形成两个策略特定的嵌入。最后，我们将BFS通道和DFS通道的两个嵌入连接起来，形成一个整体的嵌入，在同一个框架内，可以同时表示同质和异质信息。3.2随机游走生成器邻居的关键作用是为目标节点提供有用的信息，因此它不必像经典GCN中的邻居那样在这里，我们使用路径来定义邻域。然而，给定感受野，存在比节点更多的路径，使得使用所有路径在计算上是不可行的，特别是当感受野较大时。为了在搜索空间中用更少的路径收集更多的信息，我们采用具有两个参数p的二阶随机游走，H（G）= （i，j）∈Esim（i，j）|E|（二）Node2Vec中的q[Grover and Leskovec，2016]来模拟广度优先搜索和深度优先搜索。考虑一个遍历边et，s的随机游动当相似性函数sim（i，j）是等式（1）时，（3），方程。（2）成为上述的基于标签的边缘同质比。现在在节点S上，并且将访问下一个节点R。我们将非归一化转移概率设置为：sim（i，j）=.1，y i=yj（三）P（v=r|v=s，v=t）=如果dtr=0，则为1/p1，如果dtr=10，yi/=yj我们还可以使用节点特征来定义节点相似性，例如，PQIi−1i−21/q，如果dtr=20，否则（五）余弦相似性方程（4），则可以将同质比的概念推广到特征上。sim（i，j）= cos（xi，xj）（4）3体系结构在本节中，我们描述了所提出的用于同源和异质图嵌入的RAW-GNN。我们首先简要概述，然后介绍组件的详细信息。其中dtr是节点s和r之间的最短路径的长度。当我们设置p1和q>1时，随机游走的行为倾向于BFS;当p>1和q1时，随机游走的行为倾向于DFS。BFS从目标节点的直接邻居收集信息，并可以提取同质性信息（图2）。DFS倾向于顺序地到达距源节点越来越远的节点，这可以提取异质信息。由于真实网络同时表现出同质性和异质性，因此两种搜索策略都适用。PK+v：mala2277获取更多论文我我PPK我我我P我∈我P∈NSPP∈图2：拟议的RAW-GNN的框架。我们将传统GCN的邻域扩展到由随机游走生成器采样的基于有序路径的邻域。然后应用基于顺序RNN的聚合器。这种组合可以缓解异构环境下相邻节点属性差异带来的问题。接下来，基于注意力的内部策略组合器接收由相同策略采样的路径嵌入，并将它们组合成特定于策略的嵌入。最后，策略间组合子将不同策略的嵌入连接在一起，以获得具有最小信息混合的最终嵌入3.3基于RNN的路径聚合器给定路径P1，路径聚合器应当学习P上的所有节点的结构和语义信息，不仅是起始节点Vi和结束目标节点，而且还包括其间的所有上下文节点。请注意，现有的方法将所有相邻节点视为无序集。然而，一条路径自然是有顺序的，这也保留了路径上节点之间的有序连接。路径聚合器的目标是对所有节点进行这种求和不同于组合GCN中的节点嵌入，因为路径中表现出的模式不能在单个节点中很好地捕获，并且以像典型GCN那样的求和节点嵌入开始削弱了这种路径模式。此外，不同的路径可能对目标节点嵌入的贡献不同，因此我们采用注意机制来学习NS中路径嵌入的不同权重，其定义为：eP=LeakyReLU（aT·hs）并考虑路径上节点的顺序为了在连接的对象P Pexp（eP）结 路径聚合器f第一层被定义为：路径（l）：RK×dl→RdlαP=βQ∈NS exp（eQ）S（七）L（l）第一批（l）第一批（l）（l）第一批（l），hs=σ（ΣαPP∈NS·hP）hP= f路径（1）A=0（hn1，hn2，.，hnK）（6）i其中aP∈Rdl是可学习的注意力参数，aT其中h（l）∈Rdl是路的第l层嵌入向量表示aPP，eP是未归一化的重要性，（l）dlP={v n1，v n2，...，v nK}，h∈ R是节点的特征路径P的权重，αP是归一化的路径权重v nk 在层1中，k=1，2，...，K和θ代表所有的学习-在NS中的所有路径上使用softmax。 值得注意聚合器的可用参数。要对路径进行编码，我们可以使用任何考虑元素顺序的编码器。在这里，我们选择一个简单 的 序 列 编 码 器 GRU （ 门 递 归 单 元 ） [Choet al. ，2014]，RNN的变体，具有门控机制作为消息函数。为了简单起见，我们将层设置为l，并省略表示论文其余部分嵌入层的上标，除非另有说明。我们在组合过程中不再单独考虑目标节点hi的嵌入，如等式（1），因为NS中的每条路径已经包含hi作为其结束节点嵌入。为了进一步稳定学习过程，我们采用了标准 的 多 头 注 意 。 特 别 是 ， H 注 意 力 在 Eq 中 的 头 部（7），然后将它们的嵌入连接起来，这被形式化为：Hhs=||σ（αh·hs）（8）在计算路径嵌入h s之后，N S对于每个对于策略s，我们需要将它们组合成特定于策略的节点嵌入。我们假设给定一定的采样策略，生成的路径服从相应的分布。由于所有路径都是从相同的分布中采样的，因此对这些路径求和以近似对应的分布是合理的。值得注意3.5跨策略组合器在聚合每个策略中的路径信息由于不同的策略收集不同分布的路径，为了组合来自不同策略的嵌入而不混合它们，我们使用级联我3.4基于注意力的内部策略组合器h=1+v：mala2277获取更多论文我ΣΣ|我--我我结 合 来 自 不 同 策 略 的 嵌 入 ， 而 不 是 像 GCN[Kipf 和Welling，2017]模型那样对它们求和，该模型由下式给出：hi=SS=||1中文（简体）其中hi∈Rdfinal 是节点v i的最终嵌入，dfinal=H×dL×|S|得双曲正弦值.|S|是策略的数量。3.6分类器在这项工作中，我们专注于半监督节点分类任务。我们使用一个线性层和一个softmax来计算预测的标签概率，并使用标准的交叉熵作为损失：yi=softmax（hi·W）表1：数据集4.2基线我们将我们提出的方法RAW-GNN与以下基线方法进行比较：1）MLP（多层感知器），仅使用节点属性; 2）Node 2 Vec[Grover和Leskovec，2016]，仅使用图结构。由于我们的工作采用了与Node 2 Vec类似的随机游走采样策略，因此我们将其添加以进行比较; 3）传统GNN模型：GCN[Kipfand Welling，2017]和GraphSAGE1L = −|V|C|Yiclogg（yic）vi∈V Lc=1（十）[Hamiltonet al. ，2017]，其在同质性假设下工作; 4）为异 质 性 设 计 的 框 架 ： H2 GCN [Zhuet al. ， 2020] ，CPGNN [Zhuet al. ，2021a]，GPR-GNN其中W∈Rdfina l×|C|是可学习的权重矩阵，[Chien et al. ，2021]、BM-GCN [He et al. #20202;，而？Y，y∈R|C|是标签y的独热嵌入，GCN [Wanget al. ，2022]。 在本文中，我们选择最佳的每种方法的结果进行比较，因为一些方法当c=yi时，Yic=1。的Yi中的其他元素都被设置为零。4实验现在，我们将我们的RAW-GNN与最先进的模型进行比较，使用七个从强异质性到强同质性的真实世界数据集来解决节点分类和可视化问题。4.1数据集为了证明RAW-GNN可以自适应地学习同伦和异伦下的路径传播机制，我们在七个真实世界的数据集上评估了RAW-GNN和现有的最先进的方法的性能，包括三个同伦网络和四个异伦网络。 这些数据集的特征总结在表？？. L.H.R. 表示网络的标签定义的边同质比。F.H.R表示网络的余弦特征边同质比Cora、Citeseer和Pubmed是同质引用网络基准数据集[Senet al. ，2008;Namataet al. ，2012]，其中节点表示论文，并且边表示论文之间的引用。节点特征是论文的词袋表示，节点标签是学术主题。Cornell，Texas和Wisconsin是从相应大学的计算机科学系收集的网页数据集[Peiet al. ，2020]，其中节点表示网页，边是超链接，节点特征是网页的词袋表示，节点标签是页面类别（学生、项目、课程、员工和教师）。Actor是一个异嗜性Actor共现网络[Tangetal. ，2009]，其中节点对应于演员，并且两个节点之间的边表示同一维基百科页面上的同现。节点特征对应于维基百科页面中的一些节点标签是根据演员的维基百科有不止一个变种。4.3参数设置[10] Peiet al. ，2020]和[Wanget al. ，2022]，我们为所有数据集生成10个随机分割。在每个数据集中，48%的节点用作训练集，32%的节点用作验证集，其余的节点用作测试集。为了公平比较，所有方法都使用相同的10个随机分割。基线方法的所有参数均按作者使用的参数设置。 对于 RAW-GNN 中的 随机 游走 采样 ，我 们使 用p=10，q= 0的DFS策略。1BFS策略，p=0。1，q=10。 我们选择不同的不同数据集的路径长度为3、4、5、6、7。对于每种策略，我们在一个时期内为每个节点采样6条路径对于基于RNN的聚合器，我们使用具有32个隐藏单元的GRU，注意头数设置为2。学习率设置为0。05分。我们采用Adam优化器和Pytorch中的默认初始化。4.4节点分类我们进行实验，7个真实世界的数据集，以com-american不同模型的性能节点classifica-灰（表？？）.我们使用平均准确度和标准偏差作为评价指标。如图所示，我们的RAW-GNN在7个网络中的5个上表现最好。以下是详细的意见。• 我们的RAW-GNN方法在所有四个嗜异性网络上表现最好，即，Texas、Wisconsin、Actor和Cornell，这从经验上证明了RAW-GNN的有效性。具体来说 ， RAW-GNN 优 于 异 性 不 可 知 模 型 ， 即 ，Node2Vec、GCN和GraphSAGE分别增长34.20%、25.33%和2.81%。这在很大程度上是因为竞争对手的方法不能推广到异性恋的情况。Graph- SAGE表现相对较好，我们假设原因是使用了像我们的RAW-GNN一样的邻居采样L数据集德克萨斯州Wisc.Acto.玉米引文。公共场所。科拉节点18325176001833327197172708边缘309499335442954732443385429特征17031703931170337035001433类5555637L.H.R0.060.180.220.300.740.800.81+v：mala2277获取更多论文数据集Texas威斯康星演员康奈尔CiteSeerPubMed科拉平均访问平均排名MLP83.24±5.7746.76±4.8444.05±6.2955.68±9.6185.41±5.1686.47±3.3341.96±4.9040.39±5.2853.73±7.6585.49±3.5336.49±1.1623.40±1.1723.33±0.9630.64±1.4935.99±1.5284.32±6.1447.57±5.4345.95±8.2955.14±7.5778.38±6.8469.10±2.6952.00±2.4045.80±2.6274.81±1.8774.29±1.6786.37±0.6476.20±0.4665.76±0.4487.25±0.5689.30±0.5772.98±2.3177.91±2.3272.03±1.8686.60±1.4486.42±1.5574.1452.2648.1963.4176.476.009.8611.008.295.57Node2Vec（DFS）Node2Vec（BFS）GCNGraphSAGEH2GCN82.16±8.2174.32±7.3884.59±4.3785.13±4.6485.17±4.4082.57±3.2181.76±6.7483.92±3.1482.82±8.8986.67±3.3636.48±1.1635.51±1.8536.47±1.3836.32±1.3536.82±0.8478.92±5.2463.51±5.8382.97±5.6879.14±8.4484.32±4.3275.95±2.1875.52±1.8475.12±1.9875.94±2.3676.15± 1.8888.78±0.5389.08±0.6787.38±0.6390.25± 0.7188.79±0.4087.69±1.3787.18±1.1386.70±1.0387.71±1.1187.04±1.1076.0872.4176.7476.76七十七点八五5.006.295.433.862.86CPGNNGPR-GNNBM-GCNHOG-GCN原始GNN85.95± 4.15（4）88.24± 3.72（4）37.45± 1.21（5）84.86± 5.43（4）75.38±1.68（5）89.34±0.66（4）87.89± 1.52（7）78.441.71表2：具有平均值和标准偏差的分类结果。最好的结果用粗体表示，第二好的结果用下划线表示。对于我们的RAW-GNN，偏差后的数字表示为相应数据集选择的随机行走路径长度。(a)GCN（b）CPGNN（c）H2GCN（d）GPRGNN（e）RAWGNN图3：Cora数据集这证明了异质性图中采样的有效性与H_2GCN、CPGNN、GPR-GNN、BM-GCN、HOG-GCN等为异嗜性设计的方法相比，RAW-GNN还平均精度提高0.88%~ 10.35%。这些结果证明了我们的新方法对异质网络的有效性。• 在同性恋网络上，即，Cora，Citeseer和Pubmed，RAW-GNN与基线相比也具有竞争力的性能。具体来说，RAW-GNN在Cora上表现最好，在Pubmed上表现第二好。我们假设，由于每个数据集都是同质性和异质性的混合，因此来自DFS通道的异质性信息也有助于对这些同质性数据集进行建模。请注意，RAW-GNN在所有这些数据集上的平均准确度均优于GCN和GraphSAGE 1.32%和0.87%。这些结果表明，RAW-GNN仍然保持了对同质数据集的可比性能。此外，对于具有较低余弦特征同质比的数据集（F.H.R <0. 2）最佳路径长度较长，这表明异质网络需要大量的资源，用一个敏感域来提取网络中的隐邻域分布这些结果表明，所提出的框架经验的有效性和鲁棒性。4.5可视化除了定量的节点分类外，我们还在Cora数据集上可视化节点嵌入，以定性地评估嵌入结果。我们使用t-SNE将节点嵌入投影到2维空间中[LJPvd和Hinton，2008年]。在这里，我们展示了可视化结果GCN、H2 GCN、CPGNN、GPR-GNN和我们的RAW-GNN在图3中，不同颜色点表示不同的类。 如图所示，GCN和CPGNN在这种情况下不太令人满意，因为具有相同类的点是分散的，而具有不同类的一些点是混合的。如图所示，GPR-GNN和H2 GCN的可视化更好，但仍然沿着不同类别的边界模糊我们的RAW-GNN的结果是最好的，不同类之间的边界是最明显的。该结果与分类结果一致。5结论本文提出了一种基于随机游走聚集的图神经网络，它可以同时处理同构图和异构图。所提出的框架将传统GCN中的邻域扩展到由两个随机游走采样策略生成的基于k跳路径的邻域（即，宽度优先搜索和深度优先搜索）。然后，所提出的框架使用基于顺序RNN的聚合器来编码邻居节点的有序属性信息。然后，每个策略的路径嵌入被收集到目标节点，并通过atten- tion机制形成特定于策略的嵌入。最后，将来自不同策略通道的节点嵌入串联起来，避免了不同特征信息的混合，使模型能够根据不同的网络特征自动进行同构与异构的权衡。在7个真实数据集上的实验表明，该方法在异构环境下的性能优于现有方法，在同构环境下也有较好的性能.致谢本研究得到了国家自然科学基金项目61876128、天津市科技计划项目（批准号：19ZXZNGX00030）和美团项目的部分资助。+v：mala2277获取更多论文引用[Chien et al. 2021] Eli Chien ， Jianhao Peng， Pan Li 和Olgica Milenkovic。自适应通用广义pagerank图神经网络。在2021年第九届国际学习代表大会上[Cho et al. Kyunghyun Cho，Bart van Merrienboer，C. G.G.L.C. Bülc. Ehrre ， DzmitryBahdanau ， FethiBougares ，Holger Schwenk，and Yoonge Bengio.使用RNN编码器-解码器学习短语 表示用于统计机器翻译。在Proceedings of the 2014 Conference on EmpiricalMethods in Natural Language Processing ， EMNLP2014 ， October 25-29 ， 2014 ， Doha ， Qatar ， Ameeting of SIGDAT ， a Special Interest Group of theACL，pages 1724[Du et al. Zhengxiao Du，Chang Zhou，Jiangchao Yao，Teng Tu ， Letian Cheng ， Hongxia Yang ， JingrenZhou，and Jie Tang.Cogkr：用于多跳知识推理的认知图 。 IEEE Transactions on Knowledge and DataEngineering，2021。[Fu et al. Xinyu Fu，Jani Zhang，Ziqiao Meng，and IrwinKing. MAGNN：用于异构图嵌入的元路径聚合图神经网络。在WWW'20：2020年网络会议，台北，台湾，4月20日-24，2020，第2331-2341页[Grover and Leskovec ， 2016] Aditya Grover and JureLeskovec. Node2vec：可扩展的网络特征学习。第22届ACM SIGKDD国际知识发现数据挖掘会议论文集，第855-864页&ACM，2016年。[Hamilton et al. ， 2017] William L. Hamilton ， ZhitaoYing，and Jure Leskovec.大图上的归纳表示学习。神经信息处理系统的进展30，第1024-1034页，2017年[He et al. 何东晓，梁春东，刘慧欣，温明祥，焦鹏飞和冯志勇。块建模引导图卷积神经网络。第36届AAAI人工智能会议论文集，2022年。[Jin et al. ，2021] Di Jin，Cuiying Huo，Chundong Liang和Liang Yang。基于属性完备化的异构图神经网络.在2021年网络会议论文集，第391-400页[Kipf and Welling，2017] Thomas N.Kipf和Max Welling图卷积网络的半监督分类。在2017年第五届学习表征国际会议上[Lim et al. Derek Lim ，Felix Hohne，Xiuyu Li，Si-jiaLinda Huang，Vaishnavi Gupta，Omkar Bhalerao，andSer Nam Lim.非同构图上的大规模学习：新基准和强大的简单方法。神经信息处理系统进展，第34卷，第20887-20902页，2021年[LJPvd和Hinton，2008] Maaten LJPvd和GE Hinton。使用t-sne实现高维数据的可视化。J Mach Learn Res，9（2579-2605）：9，2008.[Namata et al. Galileo Mark Namata，Ben London，LiseGetoor，and Bert Huang.查询驱动的集体分类主动在2012年的“用图挖掘和学习”研讨会（MLG）上[Pei et al. ， 2020] Hongbin Pei ， Bingzhe Wei ， KevinChen- Chuan Chang ， Yu Lei ， and Bo Yang. Geom-gcn：几何图卷积网络。在2020年第八届学习代表国际会议上[Sen et al. Prithviraj Sen ， Galileo Namata ， MustafaBilgic ， Lise Getoor ， Brian Gallagher ， and TinaEliassi-Rad.网络数据的集体分类。人工智能杂志。，29（3）：93[Tang et al. Jie Tang，Jimeng Sun，Chi Wang，and ZiYang.大型网络的社会影响分析。在2009年第15届ACM SIGKDD知识发现数据挖掘国际会议的会议记录中，第807-816页&[Wang et al. Zheng Wang，Chaokun Wang，Jisheng Pei，Xiaojun Ye，and Philip S. Yu.社交网络中基于因果关系的第25届国际人工智能联合会议论文集，第3917-3923页，2016年[Wang et al. Tao Wang，Di Jin，Rui Wang，DongxiaoHe，and Yuxiao Huang.强大的图卷积网络，具有自适应的同质和异质传播机制。第36届AAAI人工智能会议论文集，2022年。[Yan et al. Yujun Yan ， Milad Hashemi ， Kevin Swer-sky，Yaoqing Yang，and Danai Koutra. 双方图卷积神 经 网 络 中 的 异 质 性 和 过 度 平 滑 。 arXiv 预 印 本arXiv：2102.06462，2021。[Yu et al. Zhizhi Yu ， Di Jin ， Ziyang Liu ， DongxiaoHe， Xiao Wang ，Hanghang Tong ， and Jiawei Han.As-gcn：用于文本丰富网络的图卷积网络2021年IEEE国际数据挖掘会议（ICDM），第837IEEE，2021年。[Zhu et al. Jiong Zhu，Yujun Yan，Lingxiao Zhao，MarkHeimann，Leman Akoglu，and Danai Koutra.图神经网络中的Be-yond同质性：电流限制和有效设计。在神经信息处理系统的进展33，2020。[Zhu et al. ，2021 a] Jiong Zhu，Ryan A. Rossi，Anup B.放 大 图 片 作 者 ： Rao ， Tung Mai ， Nedim Lipka ，Nesreen K. Ahmed和Danai Koutra。具有异质性的图神经网络。在2021年第35届AAAI人工智能会议上[Zhu et al. Meiqi Zhu，Xiao Wang，Chuan Shi，HouyeJi，and Peng Cui.用优化框架解释和统一图神经网络。在WWW2021.