[论文解读] Multi-Channel Graph Convolutional Networks

Kaixiong Zhou, Qingquan Song+4 more|arXiv (Cornell University)|Dec 17, 2019

Advanced Graph Neural Networks参考文献 26被引用 7

一句话总结

本文提出多通道图卷积网络（MuchGCN），一种分层图神经网络，在每一层学习多个图通道以保留多样的节点特征并缓解下采样过程中的信息损失。通过使用可学习滤波器和跨通道消息传递，MuchGCN 在多个基准测试中实现了图分类任务的最先进性能。

ABSTRACT

Graph neural networks (GNN) has been demonstrated to be effective in classifying graph structures. To further improve the graph representation learning ability, hierarchical GNN has been explored. It leverages the differentiable pooling to cluster nodes into fixed groups, and generates a coarse-grained structure accompanied with the shrinking of the original graph. However, such clustering would discard some graph information and achieve the suboptimal results. It is because the node inherently has different characteristics or roles, and two non-isomorphic graphs may have the same coarse-grained structure that cannot be distinguished after pooling. To compensate the loss caused by coarse-grained clustering and further advance GNN, we propose a multi-channel graph convolutional networks (MuchGCN). It is motivated by the convolutional neural networks, at which a series of channels are encoded to preserve the comprehensive characteristics of the input image. Thus, we define the specific graph convolutions to learn a series of graph channels at each layer, and pool graphs iteratively to encode the hierarchical structures. Experiments have been carefully carried out to demonstrate the superiority of MuchGCN over the state-of-the-art graph classification algorithms.

研究动机与目标

• 解决由单路径下采样导致的层次化图神经网络中信息丢失问题，该问题会将非同构图合并为无法区分的粗粒度结构。
• 克服标准图神经网络依赖固定邻域顺序和形状的局限性，这些方法在节点度数可变且邻居无序的通用图中不适用。
• 通过并行的多个图通道同时编码多种不同的粗粒度图结构，实现多视角表示学习。
• 设计一种可学习的、与顺序无关的卷积机制，在不依赖预定义局部块结构的前提下，保留不同图视图中节点的独特特征。

提出的方法

• 定义一种多通道图卷积机制，其中每个通道使用邻域特征上的可学习滤波器，学习节点嵌入的不同表示。
• 引入通道内消息传递机制，通过可学习变换在不同图通道之间聚合特征，实现跨通道特征融合。
• 在每一层应用可微下采样，生成一系列逐步变粗的图表示，以保留分层结构信息。
• 通过连接所有层和通道的表示，再经全局池化和分类，构建最终的图嵌入。
• 使用非线性激活函数（如 ReLU）和多层感知机（MLPs）建模聚合函数，确保对节点多重集表示的通用近似能力。
• 通过证明在可学习滤波器下，缩放后的邻居特征多重集即使原始多重集不同，仍能保持唯一性，确保节点嵌入的唯一性。

实验结果

研究问题

• RQ1 在分层下采样过程中，图卷积网络如何在多个视图中保留多样化的节点特征？
• RQ2 能否设计一种可学习的、与顺序无关的卷积机制，以处理通用图中可变的邻域结构？
• RQ3 如何有效结合多个粗粒度图表示以提升图分类性能？
• RQ4 多通道学习对区分原本在单路径下采样中会坍缩的非同构图有何影响？
• RQ5 能否将跨通道消息传递形式化，以在实现跨通道特征聚合的同时保持特征唯一性？

主要发现

• MuchGCN 在多个图分类基准测试中达到最先进性能，优于现有的层次化 GNN 和多图 GNN。
• 该模型对图同构性问题表现出强鲁棒性，多个图通道可防止非同构图坍缩为相同的粗粒度表示。
• MuchGCN 的运行时间随消息传递步数 $K$ 和通道扩展 $C_l$ 呈线性增长，验证了理论时间复杂度分析。
• 所提方法通过可学习滤波器和偏置缩放，成功保留了独特的节点表示，确保不同多重集的邻居嵌入保持可区分。
• 实验结果表明，将多通道、多层图嵌入进行拼接，相比单通道或单路径下采样基线，能显著提升分类准确率。
• 消融实验确认，多通道设计与跨通道消息传递均对性能提升至关重要，且各自在表示学习中贡献独特作用。