[论文解读] Counterfactual Graph Learning for Link Prediction.

Tong Zhao, Gang Liu+3 more|arXiv (Cornell University)|Jun 3, 2021

Advanced Graph Neural Networks参考文献 76被引用 4

一句话总结

本文提出了一种新颖的链接预测方法，通过利用反事实推理，从观测到的链接生成合成的反事实链接，以改进图表示学习。通过将节点对上下文建模为上下文，全局图结构建模为处理，链接存在性建模为结果，该方法从真实链接和反事实链接中学习增强的表示，在基准数据集上实现了最先进（SOTA）的性能。

ABSTRACT

Learning to predict missing links is important for many graph-based applications. Existing methods were designed to learn the observed association between two sets of variables: (1) the observed graph structure and (2) the existence of link between a pair of nodes. However, the causal relationship between these variables was ignored and we visit the possibility of learning it by simply asking a counterfactual question: would the link exist or not if the observed graph structure became different? To answer this question by causal inference, we consider the information of the node pair as context, global graph structural properties as treatment, and link existence as outcome. In this work, we propose a novel link prediction method that enhances graph learning by the counterfactual inference. It creates counterfactual links from the observed ones, and our method learns representations from both of them. Experiments on a number of benchmark datasets show that our proposed method achieves the state-of-the-art performance on link prediction.

研究动机与目标

• 为了解决现有链接预测方法忽略图结构与链接存在性之间因果关系的局限性。
• 探究反事实推理是否可以通过模拟在图结构改变时链接存在性如何变化来改善链接预测。
• 开发一种联合从观测链接和反事实链接中学习的方法，以生成更鲁棒的节点表示。
• 证明将反事实推理纳入模型可显著提升标准链接预测基准上的性能。

提出的方法

• 该方法将链接预测建模为反事实推理问题，将节点对上下文视为上下文，全局图结构视为处理，链接存在性视为结果。
• 通过扰动观测到的图结构，同时保持节点级特征和结构上下文不变，生成反事实链接。
• 通过统一的图神经网络框架，利用观测链接和反事实链接联合学习节点表示。
• 通过改变结构属性（例如边的存在性）构建反事实链接，并评估在这些干预下链接存在性将如何变化。
• 将反事实学习整合到图神经网络的消息传递机制中，以提升表示质量。
• 最终通过解码器执行链接预测，该解码器利用来自真实链接和反事实链接信号的增强表示。

实验结果

研究问题

• RQ1 通过模拟在修改后的图结构下链接存在性将如何变化，反事实推理能否提升链接预测性能？
• RQ2 与仅使用观测链接训练的模型相比，引入反事实链接如何影响学习到的节点表示的质量？
• RQ3 所提出的方法在标准基准数据集上相较于现有最先进链接预测基线方法，性能提升程度如何？
• RQ4 在反事实推理设置中，全局图结构属性作为处理变量在链接预测中的贡献是什么？

主要发现

• 通过将反事实推理整合到图学习中，所提出的方法在多个基准链接预测数据集上实现了最先进（SOTA）性能。
• 与仅在观测链接上训练的模型相比，引入反事实链接可使节点表示更加鲁棒和泛化能力更强。
• 实验结果证实，反事实推理通过捕捉图结构与链接存在性之间潜在的因果依赖关系，显著提升了模型性能。
• 该方法在多种图类型和链接预测设置下均表现出一致的性能提升，验证了其强大的泛化能力。