[论文解读] Learning from Counterfactual Links for Link Prediction

Tong Zhao, Gang Liu+3 more|arXiv (Cornell University)|Jun 3, 2021

Advanced Graph Neural Networks被引用 14

一句话总结

本文提出了一种新型图学习方法——反事实链接预测（CFLP），通过因果推断生成反事实链接，从而提升链接预测性能。通过将全局图结构（例如社区归属）视为处理因素，链接存在性视为结果，CFLP 识别在不同结构条件下相似的节点对，并将其作为增强训练数据，进而在基准数据集上实现了最先进（SOTA）的性能表现。

ABSTRACT

Learning to predict missing links is important for many graph-based applications. Existing methods were designed to learn the association between observed graph structure and existence of link between a pair of nodes. However, the causal relationship between the two variables was largely ignored for learning to predict links on a graph. In this work, we visit this factor by asking a counterfactual question: "would the link still exist if the graph structure became different from observation?" Its answer, counterfactual links, will be able to augment the graph data for representation learning. To create these links, we employ causal models that consider the information (i.e., learned representations) of node pairs as context, global graph structural properties as treatment, and link existence as outcome. We propose a novel data augmentation-based link prediction method that creates counterfactual links and learns representations from both the observed and counterfactual links. Experiments on benchmark data show that our graph learning method achieves state-of-the-art performance on the task of link prediction.

研究动机与目标

• 解决现有链接预测方法仅依赖关联模式、忽略图结构与链接存在性之间因果关系的局限性。
• 通过将反事实推理融入图表示学习，提升链接预测的泛化能力。
• 开发一种基于因果推断的数据增强策略，通过引入未观测但合理的链接情景，丰富训练数据。
• 探究从反事实链接中学习个体处理效应（ITE）是否能提升链接预测性能，相较标准 GNN 方法。

提出的方法

• 提出反事实问题：'如果图结构不同，该链接是否仍然存在？' 以识别超越观察到的关联关系的因果因素。
• 将节点对表示作为上下文，全局结构属性（例如通过谱聚类获得的社区分配）作为处理因素，链接存在性作为结果。
• 对于每个观测到的节点对，寻找具有不同处理因素（例如不同社区）的最相似节点对，以构成反事实链接。
• 将反事实链接的结果（边存在或不存在）视为未观测但具有信息量的信号，用于训练。
• 训练基于 GNN 的链接预测器，联合预测真实链接与反事实链接，学习捕捉个体处理效应的表示。
• 使用估计的个体处理效应（ITE）作为信号，引导表示学习，聚焦于结构相似性之外的因素。

实验结果

研究问题

• RQ1 反事实推理是否能超越从观测关联中学习，提升链接预测性能？
• RQ2 如何在图结构数据中系统性地利用因果建模生成反事实链接？
• RQ3 将反事实链接作为增强训练数据是否能提升链接预测任务的泛化能力？
• RQ4 与标准 GNN 相比，从反事实中学习个体处理效应（ITE）在多大程度上提升模型性能？
• RQ5 基于社区结构的简单因果模型是否能显著提升链接预测准确率？

主要发现

• CFLP 通过将反事实链接作为增强训练数据，在多个基准链接预测数据集上实现了最先进（SOTA）性能。
• 该方法通过学习对结构混淆具有鲁棒性的表示，聚焦于结构相似性之外的因果因素，从而提升泛化能力。
• 反事实链接提供了有意义的监督信号，有助于模型将链接形成的真正因果驱动因素与虚假相关性分离。
• 在真实链接与反事实链接上的联合训练使模型能够估计个体处理效应（ITE），从而提升预测准确性。
• 实验表明，CFLP 在结构相似性具有误导性（由于混淆因素）的情境下，显著优于标准 GNN 基链接预测方法。
• 基于社区的处理方式能够有效且可扩展地生成反事实链接，而无需复杂的因果建模。