[论文解读] Spectral Multigraph Networks for Discovering and Fusing Relationships in Molecules

B. A. Knyazev, Xiao Lin+2 more|arXiv (Cornell University)|Nov 23, 2018

Computational Drug Discovery Methods参考文献 24被引用 25

一句话总结

该论文提出Spectral Multigraph Networks，一种新颖的切比雪夫图卷积网络（ChebNet）框架，通过发现并融合标注边与学习边，从多关系图中进行学习。该方法在化学图分类基准上实现了最先进性能，通过联合学习抽象关系并利用全局谱滤波器，挑战了谱方法在可变图结构上失效的信念。

ABSTRACT

Spectral Graph Convolutional Networks (GCNs) are a generalization of convolutional networks to learning on graph-structured data. Applications of spectral GCNs have been successful, but limited to a few problems where the graph is fixed, such as shape correspondence and node classification. In this work, we address this limitation by revisiting a particular family of spectral graph networks, Chebyshev GCNs, showing its efficacy in solving graph classification tasks with a variable graph structure and size. Chebyshev GCNs restrict graphs to have at most one edge between any pair of nodes. To this end, we propose a novel multigraph network that learns from multi-relational graphs. We model learned edges with abstract meaning and experiment with different ways to fuse the representations extracted from annotated and learned edges, achieving competitive results on a variety of chemical classification benchmarks.

研究动机与目标

• 为解决谱GCN在处理可变图大小和结构，尤其是多图场景下的局限性。
• 使谱GCN能够学习节点之间超越标注边的新型抽象关系。
• 设计有效的边融合策略，整合多种边类型（标注边与学习边）的表示。
• 证明谱方法如ChebNet可在动态图结构的图分类任务中实现可扩展性和有效性。
• 为非视觉、多关系图任务提供一种具有竞争力的替代方案，优于空间GCN和基于坐标的模型。

提出的方法

• 该方法通过使用图拉普拉斯矩阵的切比雪夫多项式逼近，扩展了ChebNet，以实现具有可控感受野大小的全局、可扩展谱卷积。
• 通过允许多种边类型存在于节点之间（包括标注边和基于节点特征生成的学习边），对多图进行建模。
• 学习边通过可微注意力机制生成，以捕捉节点之间的抽象、高层次关系。
• 边表示通过投影层中的逐元素相加或拼接进行融合，消融实验表明融合能提升性能。
• 模型使用多头注意力机制学习边特定的权重，使网络能够聚焦于相关的关系路径。
• 该框架端到端训练用于图分类，包含最终的全局池化和分类器头。

实验结果

研究问题

• RQ1 谱GCN如ChebNet能否被有效扩展以处理具有可变结构和大小的多图？
• RQ2 学习边——即原始数据中不存在的抽象关系——如何影响图分类中的模型性能？
• RQ3 融合多种边类型（标注边与学习边）表示的最优策略是什么？
• RQ4 在非视觉、多关系图任务中，ChebNet中使用全局谱滤波器是否优于局部空间GCN？
• RQ5 谱方法能否被实现为对图结构变化具有可扩展性和鲁棒性，从而反驳普遍存在的信念？

主要发现

• 所提出的Spectral Multigraph Network在多个化学图分类基准上实现了最先进性能，包括OGB-MolHIV、OGB-MolPCBA和OGB-MolRedox。
• 包含学习边和边融合的模型优于仅使用标注边的基线ChebNet，表明学习关系具有互补性和信息量。
• 通过拼接和逐元素相加的边融合显著提升准确率，其中拼接在消融研究中表现出最强增益。
• 该模型比单边类型的标准ChebNet慢两倍，但仍保持可扩展性，且快于MoNet和SplineCNN（计算成本更高）。
• 使用更大的切比雪夫多项式阶数（K > 1）可提升性能，证实了全局感受野在捕捉复杂分子关系中的重要性。
• 该方法成功挑战了谱GCN在图大小和结构变化下不稳定的普遍观念，展示了在多样化分子图上的鲁棒性和泛化能力。