[论文解读] Factorizable Graph Convolutional Networks

Yiding Yang, Zunlei Feng+2 more|arXiv (Cornell University)|Oct 12, 2020

Advanced Graph Neural Networks参考文献 20被引用 70

一句话总结

FactorGCN 将一个简单输入图解耦为表示潜在关系的多个因子图，执行关系特定的聚合，并将结果合并以产生可解释、改进的节点特征。

ABSTRACT

Graphs have been widely adopted to denote structural connections between entities. The relations are in many cases heterogeneous, but entangled together and denoted merely as a single edge between a pair of nodes. For example, in a social network graph, users in different latent relationships like friends and colleagues, are usually connected via a bare edge that conceals such intrinsic connections. In this paper, we introduce a novel graph convolutional network (GCN), termed as factorizable graph convolutional network(FactorGCN), that explicitly disentangles such intertwined relations encoded in a graph. FactorGCN takes a simple graph as input, and disentangles it into several factorized graphs, each of which represents a latent and disentangled relation among nodes. The features of the nodes are then aggregated separately in each factorized latent space to produce disentangled features, which further leads to better performances for downstream tasks. We evaluate the proposed FactorGCN both qualitatively and quantitatively on the synthetic and real-world datasets, and demonstrate that it yields truly encouraging results in terms of both disentangling and feature aggregation. Code is publicly available at https://github.com/ihollywhy/FactorGCN.PyTorch.

研究动机与目标

• 在不规则的图域中，当多个潜在关系被汇聚为单一边时，激发对解耦的动机。
• 提出一种图卷积框架，将输入图分解为若干潜在关系图。
• 通过因子特定聚合与合并，使分块式、可解释的特征学习成为可能。
• 证明图级解耦在可解释性和任务性能上都能带来提升。

提出的方法

• 通过一个解耦层将输入图分解为多个因子图，该层使用逐边系数，其生成方式类似于图注意力机制。
• 对每个因子图应用一个专用的GCN以获得潜在特征。
• 通过拼接将每个因子特征合并，形成最终的节点表示。
• 加入一个判别头，促使因子图在结构上具有可区分性，推动多样的解耦因子。
• 使用任务损失与判别损失的组合进行训练，由参数 lambda 平衡。
• 引入并使用基于图编辑距离的 GED_E 和一个 C-Score 指标来评估解耦质量。

实验结果

研究问题

• RQ1 FactorGCN 是否能够从单个输入图中在没有边类型标签的情况下学习解耦的潜在关系图？
• RQ2 相较于标准 GCN 及相关解耦方法，因子特定聚合是否能提升下游任务的表现？
• RQ3 模型是否能用如 GED_E 和 C-Score 的基于图的指标来量化解耦质量？
• RQ4 在没有显式边类型信息的情况下，FactorGCN 是否仍然是一个在标准图分类基准上具有竞争力的一般 GCN 框架？

主要发现

• FactorGCN 在人工合成数据上的解耦指标和下游任务上都达到最新的最先进性能。
• 在 ZINC 数据集上，FactorGCN 超越了若干基线，并在未使用边信息的情况下达到与边类型感知方法相当的性能。
• FactorGCN 在图分类数据集上始终表现出较强的准确性，常常超过基于深度学习的基线并达到或超越最新方法。
• 定性分析表明，学习到的因子图捕获了分块式、解耦的潜在特征，与下游性能提升相关。
• 消融研究表明判别器对解耦至关重要，接近真实因子数量的因子图数量可提升结果。