[论文解读] Graph Convolution: A High-Order and Adaptive Approach

Zhenpeng Zhou, Xiaocheng Li|arXiv (Cornell University)|Jun 29, 2017

Advanced Graph Neural Networks参考文献 25被引用 24

一句话总结

本文提出高阶自适应图卷积网络（HA-GCN），一种通用图卷积网络（GCN）框架，引入了k阶卷积算子以捕捉长距离依赖关系，并设计了自适应滤波模块，根据局部结构和节点特征动态加权邻居节点。HA-GCN在节点分类、分子性质预测任务上达到最先进性能，并在分子生成任务中实现比以往模型多32%的有效分子生成。

ABSTRACT

In this paper, we presented a novel convolutional neural network framework for graph modeling, with the introduction of two new modules specially designed for graph-structured data: the $k$-th order convolution operator and the adaptive filtering module. Importantly, our framework of High-order and Adaptive Graph Convolutional Network (HA-GCN) is a general-purposed architecture that fits various applications on both node and graph centrics, as well as graph generative models. We conducted extensive experiments on demonstrating the advantages of our framework. Particularly, our HA-GCN outperforms the state-of-the-art models on node classification and molecule property prediction tasks. It also generates 32% more real molecules on the molecule generation task, both of which will significantly benefit real-world applications such as material design and drug screening.

研究动机与目标

• 解决现有图卷积网络在捕捉复杂图结构与长距离依赖关系方面的局限性。
• 设计一种适用于节点中心与图中心任务的通用GCN框架。
• 通过提升生成分子的质量与有效性，改进图生成建模以支持分子设计。
• 开发一种动态自适应滤波机制，基于局部图拓扑与节点特征学习卷积权重。
• 在包括性质预测与分子生成在内的多样化图学习任务中，验证所提出HA-GCN框架的优越性。

提出的方法

• 引入k阶卷积算子，聚合距离目标节点最多k跳的节点特征，扩展感受野以超越一阶邻居范围。
• 采用自适应滤波模块，利用节点特征与局部图连通性的可学习函数计算动态卷积权重。
• 使用对称归一化邻接矩阵，确保高阶卷积操作的稳定性和对称性。
• 在自编码器架构中应用HA-GCN模块进行图生成建模，同时采用变分自编码器（VAE）与对抗自编码器（AAE）训练目标。
• 采用消息传递式架构，通过在k跳邻域内迭代聚合更新节点特征。
• 可视化学习到的卷积与滤波权重，以解释模型行为并验证化学直觉，如芳香环的重要性及邻位/对位效应。

实验结果

研究问题

• RQ1 高阶卷积算子是否能有效捕捉图结构数据中超越一阶邻居的长距离依赖关系？
• RQ2 基于局部结构与特征动态加权邻居的自适应滤波机制是否能提升图学习任务的性能？
• RQ3 统一的GCN框架是否能在节点中心、图中心及图生成建模任务中均实现最先进性能？
• RQ4 自适应滤波在多大程度上学习到了化学上有意义的模式，如芳香环偏好与邻位/对位规则等区域选择性？
• RQ5 HA-GCN在药物发现与材料设计中生成有效且多样化的分子方面，相较于现有模型表现如何？

主要发现

• HA-GCN在节点分类与分子性质预测任务中达到最先进性能，优于现有GCN模型。
• 与先前最先进模型RNN-based Grammar VAE相比，HA-GCN生成的分子中有效分子比例高出32%，其中AAE训练下有效分子占比达23.6%，VAE训练下为20.3%。
• 卷积权重可视化显示对称模式，源于邻接矩阵的对称性，且随着卷积阶数增加，中心节点权重逐渐增强。
• 自适应滤波器学习到优先关注芳香环上的原子，与化学直觉一致，即芳香环在有机光伏效率中的关键作用。
• 自适应滤波器自动学习到苯环中的邻位-对位规则，对位于中心原子相邻及对位的取代基赋予更高权重。
• 高阶卷积模块被证明至关重要，因为高阶权重矩阵的非对角块显示出显著较大的数值，表明存在非平凡的长距离相互作用。