[论文解读] Exploring Causal Learning through Graph Neural Networks: An In-depth Review

Simi Job, Xiaohui Tao+5 more|arXiv (Cornell University)|Nov 25, 2023

Advanced Graph Neural Networks被引用 4

一句话总结

本文全面综述了图神经网络（GNNs）在因果学习中的应用，提出了一种新颖的基于GNN的因果方法分类体系，将其划分为基于解析的、基于学习的和可解释性的三类。该文整合了最先进技术，整理了关键数据集，并指出了在因果推断、因果发现以及因果建模中稳健GNN设计方面的重要挑战与未来方向。

ABSTRACT

In machine learning, exploring data correlations to predict outcomes is a fundamental task. Recognizing causal relationships embedded within data is pivotal for a comprehensive understanding of system dynamics, the significance of which is paramount in data-driven decision-making processes. Beyond traditional methods, there has been a surge in the use of graph neural networks (GNNs) for causal learning, given their capabilities as universal data approximators. Thus, a thorough review of the advancements in causal learning using GNNs is both relevant and timely. To structure this review, we introduce a novel taxonomy that encompasses various state-of-the-art GNN methods employed in studying causality. GNNs are further categorized based on their applications in the causality domain. We further provide an exhaustive compilation of datasets integral to causal learning with GNNs to serve as a resource for practical study. This review also touches upon the application of causal learning across diverse sectors. We conclude the review with insights into potential challenges and promising avenues for future exploration in this rapidly evolving field of machine learning.

研究动机与目标

• 为应对机器学习中超越相关性、实现因果理解的日益增长的需求，特别是在数据驱动决策中的应用。
• 为基于GNN的因果学习方法提供系统性分类体系，将它们划分为基于解析的、基于学习的和可解释性的三类方法。
• 整理并汇编一份全面的、对基于GNN的因果学习至关重要的数据集清单，以支持可复现的研究。
• 识别基于GNN的因果学习中的关键挑战，包括对抗鲁棒性、模型可解释性以及可扩展性。
• 勾勒出在动态/异构图、因果表征学习以及稳健GNN架构方面具有前景的未来研究方向。

提出的方法

• 提出一种新颖的三类分类体系：基于解析的（例如，结构因果建模）、基于学习的（例如，用于因果效应估计的端到端GNN）以及可解释性的（例如，子图级别的解释方法）。
• 综述GNN架构作为数据的通用逼近器，强调其通过图表示建模复杂、动态和多模态因果关系的能力。
• 将传统因果推断技术——如do-演算、前门准则和工具变量——整合到GNN框架中，以增强因果效应估计。
• 研究GNN中的嵌入传播与消息传递机制，作为捕捉节点与边之间因果依赖关系的核心组件。
• 分析跳跃连接与更深架构的使用，以缓解梯度消失问题，提升GNN的深度与稳定性。
• 评估对抗鲁棒性与可解释性技术，包括软掩码学习与拓扑感知解释，同时指出在保持离散邻接结构方面存在的局限性。

Figure 1: Survey Overview

实验结果

研究问题

• RQ1 如何基于GNN在因果学习中的作用对其进行系统性分类，各类方法的显著特征是什么？
• RQ2 支持基于GNN的因果学习可复现研究的关键数据集与基准资源有哪些？
• RQ3 在应用GNN进行因果推断时面临的主要挑战是什么，包括对对抗攻击的鲁棒性以及模型决策的可解释性？
• RQ4 基于GNN的方法在可扩展性与泛化能力方面，相较于传统因果发现与推断技术有何改进？
• RQ5 在动态、异构及多层图结构中，推动因果学习发展的最富前景的未来研究方向是什么？

主要发现

• GNN通过图结构化数据表示，显著提升了对复杂、非线性及高维因果关系的建模能力，从而增强因果学习效果。
• 所提出的基于解析的、基于学习的和可解释性的GNN方法分类体系，为系统分类与推进基于GNN的因果学习技术提供了结构化框架。
• 现有用于因果学习的GNN在对抗鲁棒性方面面临挑战，特别是在结构与属性扰动下，亟需开发新型防御机制。
• 由于邻接矩阵的离散性，GNN的可解释性仍受限，导致标准解释技术（如输入优化）无法适用。
• 当前的可解释GNN多为实例级解释，缺乏模型级可解释性，且尚无图级别解释的标准化评估指标。
• 面向因果学习的未来GNN需要更深层次、更具灵活性的架构，并提升对动态与异构图结构的处理能力，以确保稳定性与适应性。

Figure 2: Traditional graph learning and causal learning methods