没有合适的资源?快使用搜索试试~ 我知道了~
66980用于人脸聚类的密度感知特征嵌入0郭森辉 1 � 徐静 1 � 陈大鹏 1 † 张超 2 王晓刚 3 赵锐 101 商汤科技有限公司 2 三星中国研究院-北京(SRC-B) 3 香港中文大学0摘要0聚类在研究和工业中有许多应用。然而,传统的聚类方法,如K-means,DBSCAN和HAC,施加了过于简化的假设,因此不适合人脸聚类。为了适应现实问题的分布,一种自然的方法是使用图卷积网络(GCNs)增强聚类的特征。然而,GCNs只能利用局部信息,忽略了聚类的整体特征。在本文中,我们提出了一种用于人脸聚类任务的密度感知特征嵌入网络(DA-Net),它利用局部和非局部信息来学习稳健的特征嵌入。具体而言,DA-Net使用GCNs在局部聚合特征,然后使用密度链结合非局部信息,密度链是从低密度到高密度的一系列人脸。这种密度链利用了数据集中人脸图像的非均匀分布。然后,LSTM将密度链作为输入生成最终的特征嵌入。生成此嵌入后,可以使用传统的聚类方法(如基于密度的聚类)来获得最终的聚类结果。广泛的实验证实了所提出的特征嵌入方法的有效性,在公共基准测试中可以达到最先进的性能。01. 引言0由于人脸检测和识别的进步,可以方便地从互联网或监控摄像头收集人脸图像,并进一步用稳健的特征向量表示。在这种情况下,需要自动分析人脸特征,并且聚类是一种具有广泛应用的实用工具。先前开发的非深度聚类方法使用某些全局超参数来确定聚类行为。例如,DBSCAN依靠阈值来确定两个节点是否应该属于同一聚类,层次聚类方法也使用一些准则来决定何时进行聚类分裂或合并。0� 共同第一作者 guosenhui@sensetime.com, xjintw@hotmail.com †通讯作者 chendapeng@sensetime.com0c d0原始特征分布构建图形0建立链条最终特征分布0图1.使用密度感知特征嵌入的人脸图像分布。圆圈表示一个聚类中的人脸图像,三角形表示另一个聚类中的人脸图像。通过从低密度人脸到高密度人脸建立密度链,我们的DA-Net旨在捕捉长距离邻居的相关信息,以获得更好的特征嵌入。0然而,这些方法在具有复杂分布的人脸图像数据集上表现不佳,因为每个人的图像分布的边界条件变化使得同时对人脸图像进行足够好的聚类变得不可能。因此,需要一种能够学习单独处理每个聚类的方法。现有的基于深度学习的人脸聚类方法主要关注分类样本间的关系。例如,[23,28]中的方法学习识别是否应该属于一起的成对关系,[27]中的方法学习分类几个样本是否属于同一聚类。现有的非深度学习和深度学习方法直接使用特征提取模块的视觉特征,引入了一些问题。具体而言,一个人的图像可能会有很大的差异。66990由于姿势、光照和相机设置的变化,同一类别的特征分布通常对不同的人来说是不同的,学习或手工制作的视觉特征对于这种分布的变化仍然不具有鲁棒性,这使得这些聚类方法很容易将异常样本包含在聚类中。图1(a)展示了一个例子,其中两个身份的人脸图像非常接近,很难仅基于原始特征将它们聚类在一起。在本文中,我们旨在通过使用其邻近图像的信息来学习图像的上下文感知特征嵌入。更好的学习特征可以通过简化类间特征分布来简化人脸聚类。受图卷积网络(GCNs)在图结构数据上的成功启发[9, 22, 7,20],可以使用相关图像来改进图像的特征,将每个图像视为图中的节点。然而,标准的GCN通常依赖于一阶邻居之间的关联性,由此得到的特征仍然缺乏来自较远距离特征的信息。为了考虑较远距离的特征,我们必须堆叠GCN层,然而,涉及的节点数量会几何级增加,这种方法在先前的文献中被发现是无效的[11]。例如,假设一个样本有10个邻居,则沿着图中的边进行10步消息传递可能对应于GCN中涉及的10^10个样本/节点,这需要太多的内存和计算资源,无法在训练或推断中实际使用。由于在拍照习惯和人脸检测模型的影响下,以良好条件拍摄的人脸(例如正面角度、适当的光照和中性的面部表情)更容易被检测和注册到数据集中,我们称之为“模型人脸”。这些人脸被认为是我们想要挑选出来并包含非局部信息的最有利的人脸部分。如图2所示,我们可以看到大多数人脸的偏航角接近0,具体而言,93.58%的人脸角度在25度以内。因此,问题仍然是如何找到这些具有更高概率密度的特征。即使无法估计分布本身,我们仍然可以找到具有更高密度的特征,并从中提取图的更重要部分来表示非局部信息。基于上述对特征进行局部增强和通过模型特征表示非局部信息的动机,我们提出了一种密度感知特征嵌入网络(DA-Net),以从局部和非局部邻居中聚合相关信息。关于非局部部分的更具体说明,我们将在本文的其余部分中使用“长程”一词来指代。DA-Net有两个子网络。第一个子网络是基于局部团的网络0图2. MS-Celeb-1M数据集中人脸角度的分布0GCNs旨在从局部邻域中包含的上下文信息中学习特征嵌入。第二种是基于CNN的长程链网络。它将知识沿着链路作为学习路径进行聚合,该路径从考虑的样本开始,逐渐移动到附近的密度峰值/模型特征。密度链的示例如图1(c)所示。0如上所述,具有更高密度的特征是具有更好条件的人脸特征。因此,一张人脸图像及其附近的更高密度人脸图像有很高的可能性是同一个人。因此,链路倾向于描述一致的身份,这是每个特征在链路上最重要的部分。生成身份一致链上的特征嵌入更有可能改善表示。这种方法受到[16]中的假设的启发,其中聚类中心以比其邻居更高的密度峰值来表征,并且与其他聚类中心相距较远。考虑样本的附近密度峰值可以更好地发现长程和密度感知信息。通过简化从图到链的关系,该设计的网络只需要沿着链更新特征,从而显著加速训练和推断过程。0总之,与传统的面部聚类方法专注于分类样本间关系不同,我们通过学习上下文感知的特征嵌入来改进面部聚类问题,简化了类间特征分布,并且在大规模数据集上具有可扩展性。特征嵌入基于密度引导的感受野,它捕捉了局部邻域信息和远程聚类级别信息。在MS-Celeb-1M[6]、YouTubeFaces DB[26]和IJB-B[24]上取得了优越的聚类结果。AAAB6nicbVDLSsNAFJ3UV62vqks3g0VwY0ks+NhIxY3LivYBbSiT6aQdOpmEmZtCCf0ENy4q4tYvcuc3+BNO0iJqPXDhcM693HuPFwmuwbY/rNzS8srqWn69sLG5tb1T3N1r6DBWlNVpKELV8ohmgktWBw6CtSLFSOAJ1vSGN6nfHDGleSgfYBwxNyB9yX1OCRjpftQddoslu2xnwIvEmZNS9eRzcg1X01q3+N7phTQOmAQqiNZtx47ATYgCTgWbFDqxZhGhQ9JnbUMlCZh2k+zUCT4ySg/7oTIlAWfqz4mEBFqPA890BgQG+q+Xiv957Rj8CzfhMoqBSTpb5McCQ4jTv3GPK0ZBjA0hVHFzK6YDoggFk04hC+Eyxdn3y4ukcVp2KuXKnUmjimbIowN0iI6Rg85RFd2iGqojivroEU3RsyWsJ+vFep215qz5zD76BevtC/8ukWc= AAAB7XicbVDLSgMxFM3UV62vqktBgkWoIGXGgtZdoRuXFewD2qFm0kwbm0mGJFMoQ/9BFy4Ucesn+B/u/Bsz0yJqPXDhcM693HuPFzKqtG1/Wpml5ZXVtex6bmNza3snv7vXVCKSmDSwYEK2PaQIo5w0NNWMtENJUOAx0vJGtcRvjYlUVPAbPQmJG6ABpz7FSBupWSuOe6OTXr5gl+wUcJE4c1Ko2ofvmdvTh3ov/9HtCxwFhGvMkFIdxw61GyOpKWZkmutGioQIj9CAdAzlKCDKjdNrp/DYKH3oC2mKa5iqPydiFCg1CTzTGSA9VH+9RPzP60Tar7gx5WGkCcezRX7EoBYweR32qSRYs4khCEtqboV4iCTC2gSUS0O4THD+/fIiaZ6VnHKpfG3SqIAZsuAAHIEicMAFqIIrUAcNgMEduAdP4NkS1qP1Yr3OWjPWfGYf/IL19gX+A5EX AAAB7nicbVDLSgNBEOyNrxhfUS+Cl8Eg6CXuGoh6C3jxJBHMA5I1zE5mk2FnH8zMCmHJN4gXD4p49Tv8BG9+iHdnN0HUWNBQVHXT3eVEnEllmh9Gbm5+YXEpv1xYWV1b3yhubjVlGAtCGyTkoWg7WFLOAtpQTHHajgTFvsNpy/HOU791S4VkYXCtRhG1fTwImMsIVlpqkZ53k1yOe8WSWTYzoFliTUmpdrTz+XbXPaz3iu/dfkhinwaKcCxlxzIjZSdYKEY4HRe6saQRJh4e0I6mAfaptJPs3DHa10ofuaHQFSiUqT8nEuxLOfId3eljNZR/vVT8z+vEyj21ExZEsaIBmSxyY45UiNLfUZ8JShQfaYKJYPpWRIZYYKJ0QoUshLMU1e+XZ0nzuGxVypUrnUYVJsjDLuzBAVhwAjW4gDo0gIAH9/AIT0ZkPBjPxsukNWdMZ7bhF4zXL+Zdkwo= AAAB8HicbVDLSgMxFM3UV62vqhvBTbAIbiwzFqruCm5cSUX7kHYsmTTThiaZIckIdehXuNCFIm5c+BP+gzv/xsy0iFoPXDiccy/33uOFjCpt259WZmZ2bn4hu5hbWl5ZXcuvb9RVEElMajhggWx6SBFGBalpqhlphpIg7jHS8AYnid+4IVLRQFzqYUhcjnqC+hQjbaQr3Blcx2f7zqiTL9hFOwWcJs6EFCr2+9b96+1FtZP/aHcDHHEiNGZIqZZjh9qNkdQUMzLKtSNFQoQHqEdahgrEiXLj9OAR3DVKF/qBNCU0TNWfEzHiSg25Zzo50n3110vE/7xWpP0jN6YijDQReLzIjxjUAUy+h10qCdZsaAjCkppbIe4jibA2GeXSEI4TlL9fnib1g6JTKpbOTRplMEYWbIMdsAcccAgq4BRUQQ1gwMEdeARPlrQerGfrZdyasSYzm+AXrLcvwkSTew== c2kAAAB7XicbVDLSgNBEOz1GeMr6kXwshgEvcTdBKLeAl48RjAPSNYwO5lNxszOLDOzQgj5Br14UMSr/+EnePNDvDubDaLGgoaiqpvuLj9iVGnH+bDm5hcWl5YzK9nVtfWNzdzWdl2JWGJSw4IJ2fSRIoxyUtNUM9KMJEGhz0jDH5wnfuOWSEUFv9LDiHgh6nEaUIy0keq4M7guZju5vFNwJrBniTsl+crx7ufbXfuo2sm9t7sCxyHhGjOkVMt1Iu2NkNQUMzLOtmNFIoQHqEdahnIUEuWNJteO7QOjdO1ASFNc2xP158QIhUoNQ990hkj31V8vEf/zWrEOTr0R5VGsCcfpoiBmthZ28rrdpZJgzYaGICypudXGfSQR1iagNISzBOXvl2dJvVhwS4XSpUmjDCkysAf7cAgunEAFLqAKNcBwA/fwCE+WsB6sZ+slbZ2zpjM78AvW6xcrm5H2 c1kAAAB7XicbVBNS8NAEJ3Ur1qtVj16cLEInkpiQeutIILHCvYD2lo22027drMJuxuhhP4HLx4U9ervEPwF3vw3bpoian0w8Hhvhpl5bsiZ0rb9aWUWFpeWV7KrubX1/MZmYWu7oYJIElonAQ9ky8WKciZoXTPNaSuUFPsup013dJb4zVsqFQvElR6HtOvjgWAeI1gbqUF6o2sn1ysU7ZI9BZonzowUq3b++Xzv/a3WK3x0+gGJfCo04ViptmOHuhtjqRnhdJLrRIqGmIzwgLYNFdinqhtPr52gA6P0kRdIU0KjqfpzIsa+UmPfNZ0+1kP110vE/7x2pL1KN2YijDQVJF3kRRzpACWvoz6TlGg+NgQTycytiAyxxESbgNIQThMcf788TxpHJadcKl+aNCqQIgu7sA+H4MAJVOECalAHAjdwBw/waAXWvfVkvaStGWs2swO/YL1+Ab3mkag= C(vk)AAAB7XicbVDLSgMxFM3UV62vqktBgkWoIGXGgtZdoRuXFewD2qFm0kwbm0mGJFMoQ/9BFy4Ucesn+B/u/Bsz0yJqPXDhcM693HuPFzKqtG1/Wpml5ZXVtex6bmNza3snv7vXVCKSmDSwYEK2PaQIo5w0NNWMtENJUOAx0vJGtcRvjYlUVPAbPQmJG6ABpz7FSBupWSuOe6OTXr5gl+wUcJE4c1Ko2ofvmdvTh3ov/9HtCxwFhGvMkFIdxw61GyOpKWZkmutGioQIj9CAdAzlKCDKjdNrp/DYKH3oC2mKa5iqPydiFCg1CTzTGSA9VH+9RPzP60Tar7gx5WGkCcezRX7EoBYweR32qSRYs4khCEtqboV4iCTC2gSUS0O4THD+/fIiaZ6VnHKpfG3SqIAZsuAAHIEicMAFqIIrUAcNgMEduAdP4NkS1qP1Yr3OWjPWfGYf/IL19gX+A5EX N 0(c1k)AAAB/HicbVDLSsNAFJ34rPUV7dLNYBHrJiRWfOwKblxJBfuANobJdNIOnUzCzEQIof6KGxeKuPVD3Pk3TtIiaj0wcDjnXu6Z48eMSmXbn8bC4tLyympprby+sbm1be7stmWUCExaOGKR6PpIEkY5aSmqGOnGgqDQZ6Tjjy9zv3NPhKQRv1VpTNwQDTkNKEZKS55Z6YdIjTBi2fXksIa98Z1z5JlV27ILwHnizEi1YdULND3zoz+IcBISrjBDUvYcO1ZuhoSimJFJuZ9IEiM8RkPS05SjkEg3K8JP4IFWBjCIhH5cwUL9uZGhUMo09PVkHlX+9XLxP6+XqODczSiPE0U4nh4KEgZVBPMm4IAKghVLNUFYUJ0V4hESCCvdV7ko4SLH6feX50n72HLqVv1Gt3ECpiiBPbAPasABZ6ABrkATtAAGKXgEz+DFeDCejFfjbTq6YMx2KuAXjPcv6i6V3g== N 0(c2k)AAAB/HicbVDLSsNAFJ3UV62vaJduBotYNyFtxceu4MaVVLAPaGOYTCft0MkkzEyEEOqvuHGhiFs/xJ1/4yQtotYDA4dz7uWeOV7EqFS2/WkUlpZXVteK66WNza3tHXN3ryPDWGDSxiELRc9DkjDKSVtRxUgvEgQFHiNdb3KZ+d17IiQN+a1KIuIEaMSpTzFSWnLN8iBAaowRS6+nR1XsTu7qx65ZsS07B1wktTmpNK1GjpZrfgyGIY4DwhVmSMp+zY6UkyKhKGZkWhrEkkQIT9CI9DXlKCDSSfPwU3iolSH0Q6EfVzBXf26kKJAyCTw9mUWVf71M/M/rx8o/d1LKo1gRjmeH/JhBFcKsCTikgmDFEk0QFlRnhXiMBMJK91XKS7jIcPr95UXSqVu1htW40W2cgBmKYB8cgCqogTPQBFegBdoAgwQ8gmfwYjwYT8ar8TYbLRjznTL4BeP9C+uzld8= N 0(cN−1k)AAACAHicbVDLSsNAFJ3UV62vqIsu3IQWsS4siRUfu4IbV6WCfUAbw2Q6bYdOJmFmIpQQF/6A3yBuXCji1g/wA9z5N07SIr4OXDiccy/33uMGlAhpmh9aZmZ2bn4hu5hbWl5ZXdPXN5rCDznCDeRTn7ddKDAlDDckkRS3A46h51Lcckenid+6wlwQn13IcYBtDw4Y6RMEpZIcPd/1oBwiSKNavFNCzugyqu1Z8a6jF82ymcL4S6wpKVbNQv767u227ujv3Z6PQg8ziSgUomOZgbQjyCVBFMe5bihwANEIDnBHUQY9LOwofSA2tpXSM/o+V8WkkarfJyLoCTH2XNWZnCt+e4n4n9cJZf/YjggLQokZmizqh9SQvpGkYfQIx0jSsSIQcaJuNdAQcoikyiyXhnCS4PDr5b+kuV+2KuXKuUrjAEyQBVugAErAAkegCs5AHTQAAjG4B4/gSbvRHrRn7WXSmtGmM5vgB7TXT8yxmPY= N 0(cNk )AAAB/nicbVDLSsNAFL3xWesrKq7cBItYNyWx4mNXcONKKtgHtDFMppN26GQSZiZCCQV/xY0LRdz6He78GydpEbUeGDiccy/3zPFjRqWy7U9jbn5hcWm5sFJcXVvf2DS3tpsySgQmDRyxSLR9JAmjnDQUVYy0Y0FQ6DPS8oeXmd+6J0LSiN+qUUzcEPU5DShGSkueudsNkRpgxNLr8WEZe8M7TY48s2RX7BzWLHGmpFSrVHPUPfOj24twEhKuMENSdhw7Vm6KhKKYkXGxm0gSIzxEfdLRlKOQSDfN44+tA630rCAS+nFl5erPjRSFUo5CX09mYeVfLxP/8zqJCs7dlPI4UYTjyaEgYZaKrKwLq0cFwYqNNEFYUJ3VwgMkEFa6sWJewkWG0+8vz5LmccWpVqo3uo0TmKAAe7APZXDgDGpwBXVoAIYUHuEZXowH48l4Nd4mo3PGdGcHfsF4/wLndZcH 670002. 相关工作0面部聚类是一项具有挑战性的任务,由于其大规模数据、复杂的类内特征分布以及不同类别之间模糊的特征边界。传统的聚类方法如K-Means[12]、谱聚类[17]和DBSCAN[3]都依赖于对数据分布的某些假设,例如聚类是凸形状、相似大小或相同密度的,只有当实际分布与预期分布一致时才能达到最优结果。然而,这些方法忽略了聚类的上下文信息,不适用于现实世界的面部聚类。基于上下文的面部聚类。上下文信息有助于聚类面部。Shi等人[18]在邻域中构建了一个条件随机场,名为条件配对聚类,以促进面部聚类。Lin等人[10]通过一种新的基于密度的策略,学习了邻域的最小覆盖球,并估计了样本之间的相似性。Zhan等人[28]将邻域中的成对关系编码为特征向量,然后学习确定两个节点是否属于同一类的方法。与这些方法相比,GCN是一种更有效的用于图结构数据的工具,可以应用于面部聚类。Wang等人[23]提出了一种基于链接的GCN,用于预测关键节点与其邻居之间的连接概率。Yang等人[27]学习了在检测-分割范式中进行聚类,其中GCN-Detection从提议中选择高质量的聚类,而GCN-Segmentation识别了异常值。然而,这些方法直接使用特征提取模块中的视觉特征,只捕捉短程局部信息。我们的特征更新方法与这些方法互补。由于远程邻居可能仍然包含与相关样本一致的语义含义,我们提出了两个子网络来聚合来自短程和长程邻居的相关信息。基于GNN的特征学习。图神经网络(GCN)自然地利用了局部图结构,并可以为分类或链接预测等任务学习更具区分性的特征。DeepWalk[15]提出通过将SkipGram模型[13]与图随机游走相结合来生成图嵌入。类似的方法如node2vec和LINE[5]也取得了出色的性能。Hamilton等人引入了Graph-Sage[7]以一种归纳的方式计算节点表示。它为每个节点采样了一个固定大小的邻域,然后执行简单的特征聚合,如均值池化、最大池化和LSTM[8]。在这些方法中,参与特征学习的节点仅依赖于图的拓扑结构,而我们的方法通过定义密度感知图还利用了聚类级别的特征分布,因此对于面部聚类更加有效和高效。0vk0高密度0低密度0C(vk)0图3.链图。灰色路径,C(vk)是从节点vk到其附近的密度峰的链。当下一个最近的高密度邻居太远时,链停止增长。0高密度0cN−1k0图4. 寻找团体。我们为链中的每个节点找到一个团体。0自我监督学习。我们的方法利用聚类的分布,可以看作是一种利用密度信息提高一般表示能力的自我监督方法[1,2]。03. 方法论0在我们的方法中,首先为每个样本构建一个密度感知的局部图,然后利用DA-Net(密度感知特征嵌入网络)来利用构建的图中的信息进行聚类。DA-Net由一个局部团体子网络和一个长程链子网络组成,并为每个样本输出一个增强的特征。将所有样本的获得的特征嵌入输入到基于密度的聚类策略中,以产生最终的聚类。ρ(vi) → pl(vi) for |D| → ∞(1)ρ(vi) =�vj∈N (vi)⟨f(vi), f(vj)⟩,(2)670103.1. 数据密度0我们将面部图像建模为一个KNN图,其中每个图像由一个节点表示,并与其K个最近邻节点相连。对于节点v i,其K个最近邻节点由N(v i)表示。为了利用非局部信息,必须压缩整个图并提取最重要的节点。设f(v i )为节点v i的CNN特征,通过其L2范数进行归一化,我们认为特征空间中每个人都有一个分布。给定人物l的概率密度函数为p l (∙ ) ,值p l ( v i ) 反映了节点v i上的人物l的图片被拍摄的概率。在实践中,几乎不可能找到确切的分布。基于不同人物的特征分布在大多数情况下不重叠的观察,我们利用数据密度ρ(v i)来近似感兴趣人物的概率。通过适当定义ρ,我们有渐近性质:0其中D是为该人收集的数据。通过这种方式,数据密度较高的特征往往具有成为该人的高概率,因此它包含了该人的重要面部信息。考虑节点v i ,数据密度ρ(v i)是基于亲和图上v i 的邻居N(v i )计算的。即:0其中它们的内积� f ( v i ) , f ( v j ) �测量节点v i 和v j之间的相似性。03.2. 密度感知图构建0DA-Net利用上下文信息通过构建密度感知图。该图捕捉到了聚类级别的结构,逐渐将考虑的图像与具有更高密度的非局部邻居联系起来。对于节点v k ,我们首先从v k到附近的密度峰值生成一个链图。链图在多个步骤中逐渐增长,每个步骤依次向链中添加一个节点。为了清晰表示,我们将链定义为C(v k ) = { c 1 k , c 2 k , ..., c N k } ,其中c ik是链上的节点,c 1 是节点v k 。假设第i步添加的节点是cik k ,那么要添加的节点c i +1 k是具有更高密度的最近邻节点:0c i +1 k = arg max v {� f ( c i k ) , f ( v ) � , v ∈ { u | ρ ( u) > ρ ( c i k ) } . (3)链条增长直到要添加的节点与最后一个节点之间的内积低于预定义值。如图3所示,链条逐渐从关注的节点移动到最相关的密度峰值。0如第3.1节所述,与c 1 k相似且具有更高密度的相邻样本更有可能是模型特征并对应于同一个人。因此,具有更高数据密度的这些样本在表示聚类结构和引导节点c 1 k 特征更新方面更有用。给定链图{ c ik } N i =1,我们通过在链中的每个节点上附加一个团体来扩展它。团体中的节点包括c i k 和c i k 的最近邻节点N(c i k)。为了减轻无关邻居的影响,我们通过执行阈值选择方案来修剪团体,修剪后的节点表示为:0N'(ci k) = {v | �f(v), f(ci k)� > τ, v ∈ N(ci k)}, (4)0其中τ是基于原始特征的经验值,我们的实验中τ = 0.6。03.3. 本地团网络0本地团网络基于GCN,旨在更新链中每个节点的特征。如图4所示,对于每个节点,它以相应的团作为输入。给定团N'(ci k),我们定义亲和矩阵A(ci k) ∈ R |N'(ci k)|×|N'(cik)|,其元素通过内积计算得到。初始特征矩阵将团中的所有原始特征连接起来,表示为F0(ci k) ∈ R |N'(cik)|×d。在每个GCN层中,我们通过以下方式更新特征矩阵:0Fl+1(ci k) = σ(α ∙ Fl(ci k)0+ (1 - α) ∙ D-1(ci k)A(ci k)Fl(ci k)Wl), (5)0其中Fl(ci k)是第l个GCN层对属于cik的所有节点的更新特征,D(ci k)是对角矩阵,其中D i,i(ci0j A i,j(cik),σ是ReLU函数,α是一个可学习的参数,平衡更新特征及其上下文的重要性。直观地说,这个公式表示了在团中对原始特征进行加权平均的过程,将其与Wl相结合,并与之前的特征Fl(cik)进行非线性激活。这类似于CNN模块,但是在具有任意拓扑结构的图上操作。我们的方法通过将大图分解为多个团,显著加速了训练和推理过程。通过L层GCN,我们从相应行中获得节点ci k的嵌入特征,表示为φ(ci k)。03.4. 长程链网络0长程链网络本质上是一个基于CNN的注意力网络。对于节点vk,本地团网络产生的链特征由{φ(c1k), φ(c2k), ...,φ(cNk)}表示。受到“缩放点积注意力”[21]的启发,我们使用transformer架构进一步更新节点特征,如图5所示。AAAB7XicbVDLSgMxFM3UV62vqktBgkWoIGXGgtZdoRuXFewD2qFm0kwbm0mGJFMoQ/9BFy4Ucesn+B/u/Bsz0yJqPXDhcM693HuPFzKqtG1/Wpml5ZXVtex6bmNza3snv7vXVCKSmDSwYEK2PaQIo5w0NNWMtENJUOAx0vJGtcRvjYlUVPAbPQmJG6ABpz7FSBupWSuOe6OTXr5gl+wUcJE4c1Ko2ofvmdvTh3ov/9HtCxwFhGvMkFIdxw61GyOpKWZkmutGioQIj9CAdAzlKCDKjdNrp/DYKH3oC2mKa5iqPydiFCg1CTzTGSA9VH+9RPzP60Tar7gx5WGkCcezRX7EoBYweR32qSRYs4khCEtqboV4iCTC2gSUS0O4THD+/fIiaZ6VnHKpfG3SqIAZsuAAHIEicMAFqIIrUAcNgMEduAdP4NkS1qP1Yr3OWjPWfGYf/IL19gX+A5EX +AAAB9XicbVBLSwMxGMzWV62vqkcv0SIoQtm14OMgFLx4rGAfsF1LNpu2odlkSbJKWXrwX3jxoIgePPhfvPlvzG6LqHUgZJj5PjIZP2JUadv+tHIzs3PzC/nFwtLyyupacX2joUQsMaljwYRs+UgRRjmpa6oZaUWSoNBnpOkPzlO/eUOkooJf6WFEvBD1OO1SjLSRrtu+YIEahuZKDkadYsku2xngNHEmpFTdfz1z37bvap3iRzsQOA4J15ghpVzHjrSXIKkpZmRUaMeKRAgPUI+4hnIUEuUlWeoR3DVKALtCmsM1zNSfGwkKVRrNTIZI99VfLxX/89xYd0+8hPIo1oTj8UPdmEEtYFoBDKgkWLOhIQhLarJC3EcSYW2KKmQlnKY4+v7yNGkclp1KuXJp2qiCMfJgC+yAPeCAY1AFF6AG6gADCe7BI3iybq0H69l6GY/mrMnOJvgF6/0L7zSV4g== AAAB9XicbVDLSgMxFM34rPVVdSlIsAquyowFH7uCG5et2Ae0Y8lkMm1oJhmSjKUMXfoPblwo4tat3+HOb/AnzEyLqPVAyOGce8nJ8SJGlbbtD2tufmFxaTm3kl9dW9/YLGxtN5SIJSZ1LJiQLQ8pwigndU01I61IEhR6jDS9wUXqN2+JVFTwaz2KiBuiHqcBxUgb6abjCearUWiuZDjuFop2yc4AZ4kzJcXKQe3zbu/tqtotvHd8geOQcI0ZUqrt2JF2EyQ1xYyM851YkQjhAeqRtqEchUS5SZZ6DA+N4sNASHO4hpn6cyNBoUqjmckQ6b7666Xif1471sGZm1AexZpwPHkoiBnUAqYVQJ9KgjUbGYKwpCYrxH0kEdamqHxWwnmKk+8vz5LGcckpl8o100YFTJADu2AfHAEHnIIKuARVUAcYSHAPHsGTNbQerGfrZTI6Z013dsAvWK9f2N6Whg== AAAB+nicbVDLSgMxFM34rPU11aUgg1VwVWYs+NgV3LhsxT6gM5RMJtOGZpIhyShl7NLPcONCEbcu/A53foM/YWZaRK0HQg7n3EtOjh9TIpVtfxhz8wuLS8uFleLq2vrGplnaakmeCISbiFMuOj6UmBKGm4ooijuxwDDyKW77w/PMb19jIQlnV2oUYy+CfUZCgqDSUs8suT6ngRxF+kpdKNW4Z5btip3DmiXOlJRr+43Pu923y3rPfHcDjpIIM4UolLLr2LHyUigUQRSPi24icQzREPZxV1MGIyy9NI8+tg60ElghF/owZeXqz40URjJLpycjqAbyr5eJ/3ndRIWnXkpYnCjM0OShMKGW4lbWgxUQgZGiI00gEkRntdAACoiUbquYl3CW4fj7y7OkdVRxqpVqQ7dRAxMUwA7YA4fAASegBi5AHTQBAjfgHjyCJ+PWeDCejZfJ6Jwx3dkGv2C8fgGa0pgC cN−1kAAAB/3icbVBLS8NAGNzUV62vqOBBL8EieLEkFrTeCl48SQX7gCaGzWbTLt082N0IIebgLxG8eFDEqz/Bqzf/jLhJi6h1YNlh5vvY2XEiSrjQ9Q+lNDM7N79QXqwsLa+srqnrGx0exgzhNgppyHoO5JiSALcFERT3Ioah71DcdUanud+9xoyTMLgUSYQtHw4C4hEEhZRsdct0QuryxJdXiuzRVXp+YGSZrVb1ml5AmybGhFSbhrmdfL7dtWz13XRDFPs4EIhCzvuGHgkrhUwQRHFWMWOOI4hGcID7kgbQx9xKi/yZticVV/NCJk8gtEL9uZFCn+cR5aQPxZD/9XLxP68fC69hpSSIYoEDNH7Ii6kmQi0vQ3MJw0jQRBKIGJFZNTSEDCIhK6sUJZzkOPr+8jTpHNaMeq1+IdtogDHKYAfsgn1ggGPQBGegBdoAgRtwDx7Bk3KrPCjPyst4tKRMdjbBLyivX28imjA= AAAB/XicbVBLSwMxGMz6rNXq+rh5MFgET2XXgtZbQQRPUsE+oF2XbDbbhmYfJFmhLou/RPDiQRGvngV/gTf/jdltEbUOhAwz30cm40SMCmkYn9rM7Nz8wmJhqbi8Ulpd09c3WiKMOSZNHLKQdxwkCKMBaUoqGelEnCDfYaTtDE8yv31NuKBhcClHEbF81A+oRzGSSrL1rZ4TMleMfHUl2B5eJedpautlo2LkgNPEnJBy3Sjdne68vzVs/aPnhjj2SSAxQ0J0TSOSVoK4pJiRtNiLBYkQHqI+6SoaIJ8IK8nTp3BPKS70Qq5OIGGu/txIkC+ygGrSR3Ig/nqZ+J/XjaVXsxIaRLEkAR4/5MUMyhBmVUCXcoIlGymCMKcqK8QDxBGWqrBiXsJxhsPvL0+T1kHFrFaqF6qNGhijALbBLtgHJjgCdXAGGqAJMLgB9+ARPGm32oP2rL2MR2e0yc4m+AXt9QuA6Jj7 AAAB+3icbVBPS8MwHE3nvzmd1nn0YHEInka7gc7bQASPE9wf2GpJ03QLS5uSpOIo/Sh68aCIVz+A4Cfw5rcx7Yao80HI473fj7w8N6JESNP81ApLyyura8X10sZmeWtb36l0BYs5wh3
下载后可阅读完整内容,剩余1页未读,立即下载
cpongm
- 粉丝: 4
- 资源: 2万+
上传资源 快速赚钱
- 我的内容管理 收起
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
会员权益专享
最新资源
- 保险服务门店新年工作计划PPT.pptx
- 车辆安全工作计划PPT.pptx
- ipqc工作总结PPT.pptx
- 车间员工上半年工作总结PPT.pptx
- 保险公司员工的工作总结PPT.pptx
- 报价工作总结PPT.pptx
- 冲压车间实习工作总结PPT.pptx
- ktv周工作总结PPT.pptx
- 保育院总务工作计划PPT.pptx
- xx年度现代教育技术工作总结PPT.pptx
- 出纳的年终总结PPT.pptx
- 贝贝班班级工作计划PPT.pptx
- 变电值班员技术个人工作总结PPT.pptx
- 大学生读书活动策划书PPT.pptx
- 财务出纳月工作总结PPT.pptx
- 大学生“三支一扶”服务期满工作总结(2)PPT.pptx
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功