[논문 리뷰] Counterfactual Learning on Graphs: A Survey

Zhimeng Guo, Teng Xiao외 4명|arXiv (Cornell University)|2023. 04. 03.

Advanced Graph Neural Networks인용 수 7

한 줄 요약

이 종합적 서베이는 그래프 구조 데이터에서의 반사적 학습에 대해 포괄적인 개요를 제공하며, 기존의 방법들을 공정성, 설명 가능성, 링크 예측, 실세계 응용의 네 가지 문제 유형으로 분류한다. 통합된 프레임워크를 제안하고 핵심 데이터셋, 평가 지표, 오픈소스 도구를 종합적으로 정리하며, 확장성, 동적 그래프, 비지도 학습과 같은 핵심 과제를 밝혀내어 반사적 학습이 이해 가능하고 공정하며 인과적으로 타당한 그래프 표현 학습을 위해 필수적임을 입증한다.

ABSTRACT

Graph-structured data are pervasive in the real-world such as social networks, molecular graphs and transaction networks. Graph neural networks (GNNs) have achieved great success in representation learning on graphs, facilitating various downstream tasks. However, GNNs have several drawbacks such as lacking interpretability, can easily inherit the bias of data and cannot model casual relations. Recently, counterfactual learning on graphs has shown promising results in alleviating these drawbacks. Various approaches have been proposed for counterfactual fairness, explainability, link prediction and other applications on graphs. To facilitate the development of this promising direction, in this survey, we categorize and comprehensively review papers on graph counterfactual learning. We divide existing methods into four categories based on problems studied. For each category, we provide background and motivating examples, a general framework summarizing existing works and a detailed review of these works. We point out promising future research directions at the intersection of graph-structured data, counterfactual learning, and real-world applications. To offer a comprehensive view of resources for future studies, we compile a collection of open-source implementations, public datasets, and commonly-used evaluation metrics. This survey aims to serve as a ``one-stop-shop'' for building a unified understanding of graph counterfactual learning categories and current resources. We also maintain a repository for papers and resources and will keep updating the repository https://github.com/TimeLovercc/Awesome-Graph-Causal-Learning.

연구 동기 및 목표

• 그래프 신경망(GNN)의 해석 가능성 부족과 편향 문제를 해결하기 위해 반사적 학습을 솔루션으로 도입하기 위해.
• 다양한 연구 문제에 걸쳐 그래프에서의 다양한 반사적 학습 접근법을 이해하기 위한 통합 프레임워크를 제공하기 위해.
• 연구자들이 사용할 수 있는 중심 자원이 되기 위해 오픈소스 구현체, 공개 데이터셋, 평가 지표를 수집하고 정리하기 위해.
• 확장성, 동적 그래프 처리, 비지도 반사적 학습과 같은 핵심 열린 과제를 식별하고 강조하기 위해.
• 미래 연구 방향을 제시함으로써 그래프 학습, 인과성, 실세계 응용의 교차 분야에서의 추가 연구를 자극하기 위해.

제안 방법

• 기존의 그래프 반사적 학습 방법을 네 가지 문제 기반 그룹으로 분류: 반사적 공정성, 반사적 설명, 반사적 링크 예측, 실세계 응용.
• 모든 카테고리에 걸쳐 문제 정의, 데이터 생성, 모델 학습, 평가를 통합하는 일반적 프레임워크를 제안.
• 각 카테고리의 대표적 방법을 검토하며, 그래프 구조를 변형함으로써 유효한 반사적 결과를 생성하는 기법들(예: 노드/에지 수정)에 중점을 둔다.
• 사실 기반 결과가 관측되었을 때, 간섭 조건 하에서 반사적 결과를 추론하는 '만약 그렇다면' 시나리오를 모델링하기 위해 인과 추론 원리를 강조.
• 정확도, 타당성, 희소성 기반 평가 프로토콜을 도입하여 생성된 반사적 결과의 품질을 평가.
• 재현 가능성과 커뮤니티 성장을 지원하기 위해 정기적으로 업데이트되는 GitHub 리포지터리를 유지 관리하며, 선별된 논문, 코드, 데이터셋, 벤치마크를 포함.

실험 결과

연구 질문

• RQ1 반사적 학습은 훈련 데이터의 편향을 줄임으로써 그래프 신경망에서의 공정성을 어떻게 향상시킬 수 있는가?
• RQ2 그래프 구조 데이터에서 충실하고 타당한 반사적 설명을 생성하기 위한 핵심 설계 원칙과 평가 기준은 무엇인가?
• RQ3 반사적 추론은 그래프의 인과적 의존성을 모델링함으로써 링크 예측을 어떻게 향상시킬 수 있는가?
• RQ4 대규모 및 동적 그래프에 반사적 학습을 확장할 때의 주요 과제는 무엇인가?
• RQ5 자원이 제한된 그래프 환경에서 비지도 또는 자기지도 반사적 학습의 기회는 무엇인가?

주요 결과

• 반사적 학습은 인과적 의존성을 드러내는 '만약 그렇다면' 시나리오를 생성함으로써 GNN의 모델 해석 가능성 향상과 편향 감소에 효과적으로 기여한다.
• 이 서베이는 그래프에서의 반사적 설명에 대한 표준화된 평가 지표 부족을 식별하며, 인과적 구조에 부합하는 지표의 필요성을 강조한다.
• 대규모 그래프(예: 소셜 네트워크 또는 지식 그래프)에서는 반복적인 반사적 결과 생성과 재학습으로 인해 확장성 문제를 겪는다.
• 실세계 그래프가 본질적으로 시간에 따라 변화하므로, 동적 그래프 설정은 대부분의 방법이 정적 그래프 구조를 가정함에도 불구하고 여전히 미비하게 다뤄지고 있다.
• 비지도 및 자기지도 반사적 학습은 그래프 표현 학습에서 자기지도 사전학습의 성공에도 불구하고, 대부분 탐색되지 않은 분야이다.
• 저자들은 오픈소스 도구, 데이터셋, 지표를 포함하는 종합적인 자원 리포지터리를 정리하였으며, 지속적으로 유지 보수되어 그래프 반사적 학습 분야의 지속적 연구를 지원한다.