图卷积网络：GAT与GCN解析

"GAT and GCN.pdf 是关于图卷积网络的介绍，重点讨论了如何在非欧几里得空间中的图结构上应用卷积操作。文档涉及到傅里叶变换、拉普拉斯矩阵以及图卷积网络（GCN）的基本原理和应用，特别是其在半监督学习中的点分类问题上的运用。" 在计算机科学和机器学习领域，图卷积网络（Graph Convolutional Networks, GCN）是一种扩展传统卷积神经网络（CNN）的概念，以处理非欧几里得数据，例如社交网络、化学分子结构或交通网络。传统的CNN依赖于固定网格结构（如图像），而图数据则具有更复杂的拓扑结构，其中每个节点可能有不同数量的邻接节点。 图卷积的核心思想在于将非欧式图转换为可以进行卷积处理的形式。傅里叶变换在这里起着关键作用，它可以将图的空域表示转换为谱域表示，便于分析和处理。傅里叶变换的公式为 \( f^*(t) = \int_{-\infty}^{+\infty} f(x) e^{-2\pi ixt} dx \)，在图中，傅里叶变换通常与拉普拉斯矩阵结合使用。拉普拉斯矩阵 \( L = D - A \)，其中 \( D \) 是度矩阵，\( A \) 是邻接矩阵，用于捕捉图的连接信息。 在图卷积中，傅里叶变换的逆过程，即逆傅里叶变换，将卷积后的谱域信号转换回空域。这一过程可以表示为 \( (f*g) = F^{-1}[F[f(t)] \odot F[g(t)]] \)，其中 \( \odot \) 表示元素-wise 的乘法。在图卷积网络中，\( U \) 是拉普拉斯矩阵的特征向量矩阵，卷积操作可以表示为 \( (f*Gg) = UgU^Tf \)，这里的 \( g \) 可以被视为卷积核。 GCN 的基本公式描述了图卷积层之间的信息传递，公式为 \( H^{l+1} = \sigma(D^{-\frac{1}{2}}(A+I)D^{-\frac{1}{2}}H^lW^l) \)，其中 \( H^l \) 表示第 \( l \) 层的特征矩阵，\( W^l \) 是权重矩阵，\( I \) 是单位矩阵，\( A \) 是邻接矩阵，\( D \) 是度矩阵，\( D^{-\frac{1}{2}} \) 和 \( (A+I)D^{-\frac{1}{2}} \) 用于归一化，\( \sigma \) 是激活函数。 GCN 主要应用于点分类任务，特别是在标注数据有限的半监督学习场景下。通过定义特定的损失函数，GCN 能够利用已知节点的标签信息指导网络的学习，同时对未标注节点进行预测。在论文中，变量 \( X \) 表示所有节点的特征向量组成的矩阵，而 \( A \) 和 \( D \) 用于构建拉普拉斯矩阵，从而实现图上的卷积操作。 总结来说，GAT and GCN.pdf 提供了深入理解图卷积网络的理论基础和实际应用，包括傅里叶变换在图谱分析中的应用，以及GCN如何处理非欧几里得数据，解决点分类问题。这些知识对于研究图数据的机器学习模型至关重要。