[论文解读] Graph Convolutional Networks with EigenPooling

Yao Ma, Suhang Wang+2 more|arXiv (Cornell University)|Apr 30, 2019

Advanced Graph Neural Networks参考文献 51被引用 9

一句话总结

本文提出了一种名为 EigenPooling 的新型图池化算子，该算子利用图傅里叶变换在层次化图表示学习过程中保留局部子图结构。通过使用子图的特征向量聚合节点特征，该方法实现了基于 GCN 的新框架 EigenGCN，该框架在六个基准图分类数据集上实现了最先进性能，有效捕捉了局部和全局结构信息。

ABSTRACT

Graph neural networks, which generalize deep neural network models to graph structured data, have attracted increasing attention in recent years. They usually learn node representations by transforming, propagating and aggregating node features and have been proven to improve the performance of many graph related tasks such as node classification and link prediction. To apply graph neural networks for the graph classification task, approaches to generate the extit{graph representation} from node representations are demanded. A common way is to globally combine the node representations. However, rich structural information is overlooked. Thus a hierarchical pooling procedure is desired to preserve the graph structure during the graph representation learning. There are some recent works on hierarchically learning graph representation analogous to the pooling step in conventional convolutional neural (CNN) networks. However, the local structural information is still largely neglected during the pooling process. In this paper, we introduce a pooling operator $\pooling$ based on graph Fourier transform, which can utilize the node features and local structures during the pooling process. We then design pooling layers based on the pooling operator, which are further combined with traditional GCN convolutional layers to form a graph neural network framework $\m$ for graph classification. Theoretical analysis is provided to understand $\pooling$ from both local and global perspectives. Experimental results of the graph classification task on $6$ commonly used benchmarks demonstrate the effectiveness of the proposed framework.

研究动机与目标

• 为解决图神经网络中全局池化方法在图表示学习过程中忽略局部结构信息的局限性。
• 设计一种同时结合节点特征与局部子图结构的池化算子，以生成更具信息量的超节点表示。
• 构建一种层次化图神经网络框架，实现对分类任务的有效图级表示学习。
• 从局部和全局两个视角对所提出的 EigenPooling 算子进行理论分析。
• 在标准图分类基准上实证验证所提出框架的有效性。

提出的方法

• 提出 EigenPooling，一种基于局部子图图傅里叶变换的池化算子，利用特征向量总结节点特征，同时保留结构上下文。
• 通过结合基于子图的图粗化策略，使用 EigenPooling 构建池化层，形成层次化表示。
• 将 EigenPooling 层与标准图卷积网络（GCN）卷积层集成，构建端到端图分类的 EigenGCN 框架。
• 使用每个子图拉普拉斯矩阵的特征向量作为可学习或固定的基函数，将节点特征投影并聚合为超节点表示。
• 对池化后的特征应用可学习变换，以在每个粗化层级上优化表示。
• 使用标准反向传播和交叉熵损失函数对完整 EigenGCN 模型进行训练，以实现图分类。

实验结果

研究问题

• RQ1 一种结合局部子图结构的池化算子是否能提升图表示学习在分类任务中的性能？
• RQ2 与传统的池化方法（如均值池化或最大池化）相比，EigenPooling 在捕捉结构信息方面表现如何？
• RQ3 EigenGCN 框架在标准图分类基准上相较于现有最先进模型的性能提升程度如何？
• RQ4 EigenPooling 能够同时保留局部和全局图结构的理论依据是什么？
• RQ5 EigenGCN 对不同图中子图大小和结构多样性的变化具有多大程度的鲁棒性？

主要发现

• EigenGCN 在六个常用图分类基准数据集上实现了最先进性能，在大多数情况下优于现有方法。
• 所提出的 EigenPooling 算子通过捕捉标准池化方法忽略的局部结构模式，显著提升了图表示学习性能。
• 理论分析证实，EigenPooling 通过谱分解同时保留了局部子图结构和全局图特征。
• 实证结果表明，EigenGCN 在包括分子网络和社会网络在内的多种图类型中均能持续提升性能。
• 结合 EigenPooling 的层次化粗化过程能够在不丢失关键结构信息的前提下，有效学习图级表示。
• 消融实验表明，若移除 EigenPooling 的谱分量，性能将显著下降，验证了其对结构信息的敏感性。