阿里算法专家李厚意：GNN算法与自研训练框架探索

本文档主要探讨了4-4+GNN算法的应用以及一个自研的GNN训练框架，由阿里巴巴算法专家李厚意在2021年10月10日的DataFunSummit会议上分享。GNN（图神经网络）算法在近年来在推荐系统和图学习领域展现出强大的潜力，特别是GIPA（General Information Propagation Algorithm），它提供了一种新颖的视角来理解GNN的工作原理。 GIPA算法是一种将GNN和推荐算法分解为四个关键组件的框架：ProjectionFunction（投影函数）、PropagationFunction（传播函数）、AggregationFunction（聚合函数）和PredictionFunction（预测函数）。每一轮传播包括Projection（映射节点特征）、Propagation（节点间的交互传播）、Aggregation（聚合邻居信息）和最终的Prediction（基于任务需求进行节点分类或链接预测）。例如，GIPA通过线性注意力、meanpooling等技术实现节点表示的更新，如GCN中的邻接矩阵乘法，GAT中的注意力机制，以及GIPA for ogbn-protein中采用的元素级深度注意力。 在实验部分，GIPA算法在OpenGraphBenchmark（OGBN-Proteins）蛋白质分类数据集上表现出色，证明了其在实际场景中的有效性。此外，文档还提到了GraphTheta，这是一个自研的GNN训练框架，专门设计用于优化GNN模型的训练效率和性能。 分享者强调，这些成果仅限于个人公开论文和思考，并不涉及未公开的阿里巴巴和蚂蚁集团内部信息。总结部分回顾了GIPA算法的核心思想和在业界的影响，并对未来的研究方向进行了展望。 通过阅读这篇分享，读者可以深入了解GNN算法的构成、GIPA的具体实现及其在实际任务中的应用，同时也能了解到如何通过定制化的训练框架提升GNN模型的效果。这对于从事图计算和机器学习的工程师以及研究人员来说，是一份有价值的参考资料。