[论文解读] Counterfactual Learning on Graphs: A Survey

Zhimeng Guo, Teng Xiao+4 more|arXiv (Cornell University)|Apr 3, 2023

Advanced Graph Neural Networks被引用 7

一句话总结

本综述全面概述了图结构数据上的反事实学习，将现有方法分类为四类问题：公平性、可解释性、链接预测和实际应用。它提出一个统一框架，整理了关键数据集、评估指标和开源工具，并指出了可扩展性、动态图和无监督学习等关键挑战，将反事实学习定位为可解释、公平且因果合理的图表示学习中不可或缺的一部分。

ABSTRACT

Graph-structured data are pervasive in the real-world such as social networks, molecular graphs and transaction networks. Graph neural networks (GNNs) have achieved great success in representation learning on graphs, facilitating various downstream tasks. However, GNNs have several drawbacks such as lacking interpretability, can easily inherit the bias of data and cannot model casual relations. Recently, counterfactual learning on graphs has shown promising results in alleviating these drawbacks. Various approaches have been proposed for counterfactual fairness, explainability, link prediction and other applications on graphs. To facilitate the development of this promising direction, in this survey, we categorize and comprehensively review papers on graph counterfactual learning. We divide existing methods into four categories based on problems studied. For each category, we provide background and motivating examples, a general framework summarizing existing works and a detailed review of these works. We point out promising future research directions at the intersection of graph-structured data, counterfactual learning, and real-world applications. To offer a comprehensive view of resources for future studies, we compile a collection of open-source implementations, public datasets, and commonly-used evaluation metrics. This survey aims to serve as a ``one-stop-shop'' for building a unified understanding of graph counterfactual learning categories and current resources. We also maintain a repository for papers and resources and will keep updating the repository https://github.com/TimeLovercc/Awesome-Graph-Causal-Learning.

研究动机与目标

• 通过引入反事实学习作为解决方案，解决图神经网络（GNNs）中可解释性不足和偏差问题。
• 为理解图上多种研究问题中多样化的反事实学习方法，提出一个统一框架。
• 整理并组织开源实现、公开数据集和评估指标，作为研究人员的集中资源。
• 识别并突出关键开放挑战，如可扩展性、动态图处理和无监督反事实学习。
• 通过概述有前景的未来研究方向，激发图学习、因果推断与实际应用交叉领域的进一步研究。

提出的方法

• 将现有的图反事实学习方法按四类问题分组：反事实公平性、反事实解释、反事实链接预测和实际应用。
• 提出一个通用框架，统一涵盖所有类别的问题建模、数据生成、模型学习和评估。
• 回顾各类别中的代表性方法，强调通过扰动图结构（如节点/边修改）生成有效反事实的技术。
• 强调利用因果推断原理来建模“如果……会怎样”的情景，即在观察到事实结果的基础上，推断干预下的反事实结果。
• 引入基于保真度、合理性与稀疏性的评估协议，以评估生成反事实的质量。
• 维护一个持续更新的GitHub仓库，汇集精选论文、代码、数据集和基准，以支持可复现性和社区发展。

实验结果

研究问题

• RQ1 反事实学习如何通过缓解训练数据中的偏差，提升图神经网络的公平性？
• RQ2 在图结构数据上生成忠实且合理的反事实解释，其关键设计原则和评估标准是什么？
• RQ3 反事实推理如何通过建模图结构中的因果依赖关系，提升链接预测性能？
• RQ4 在大规模和动态图上扩展反事实学习面临的主要挑战是什么？
• RQ5 在低资源图设置下，无监督或自监督反事实学习存在哪些机遇？

主要发现

• 反事实学习通过生成‘如果……会怎样’的情景，有效提升了图神经网络的可解释性并减少了偏差，揭示了因果依赖关系。
• 该综述指出，图上反事实解释缺乏标准化的评估指标，凸显了与因果结构对齐的指标的迫切需求。
• 现有方法在可扩展性方面存在困难，主要源于迭代式反事实生成与重训练，尤其在社交网络或知识图谱等大规模图上更为明显。
• 动态图设置仍研究不足，尽管现实世界图本质上是随时间演化的，但大多数方法仍假设图结构为静态。
• 在图上进行无监督和自监督反事实学习的研究尚属空白，尽管自监督预训练在图表示学习中已取得成功。
• 作者整理了一个全面的资源仓库，包含开源工具、数据集和评估指标，该仓库持续维护，以支持图反事实学习的持续研究。