[論文レビュー] Counterfactual Learning on Graphs: A Survey

Zhimeng Guo, Teng Xiao+4 more|arXiv (Cornell University)|Apr 3, 2023

Advanced Graph Neural Networks被引用数 7

ひとこと要約

本サーベイは、グラフ構造データにおける反事後学習について包括的な概要を提供し、既存の手法を4つの問題タイプに分類する：公平性、説明可能性、リンク予測、実世界の応用。統一されたフレームワークを提示し、主要なデータセット、メトリクス、オープンソースツールを収集・整理し、スケーラビリティ、動的グラフ、教師なし学習といった重要な課題を特定。反事後学習は、解釈可能で、公平かつ因果的に整合性のあるグラフ表現学習に不可欠であると位置づけている。

ABSTRACT

Graph-structured data are pervasive in the real-world such as social networks, molecular graphs and transaction networks. Graph neural networks (GNNs) have achieved great success in representation learning on graphs, facilitating various downstream tasks. However, GNNs have several drawbacks such as lacking interpretability, can easily inherit the bias of data and cannot model casual relations. Recently, counterfactual learning on graphs has shown promising results in alleviating these drawbacks. Various approaches have been proposed for counterfactual fairness, explainability, link prediction and other applications on graphs. To facilitate the development of this promising direction, in this survey, we categorize and comprehensively review papers on graph counterfactual learning. We divide existing methods into four categories based on problems studied. For each category, we provide background and motivating examples, a general framework summarizing existing works and a detailed review of these works. We point out promising future research directions at the intersection of graph-structured data, counterfactual learning, and real-world applications. To offer a comprehensive view of resources for future studies, we compile a collection of open-source implementations, public datasets, and commonly-used evaluation metrics. This survey aims to serve as a ``one-stop-shop'' for building a unified understanding of graph counterfactual learning categories and current resources. We also maintain a repository for papers and resources and will keep updating the repository https://github.com/TimeLovercc/Awesome-Graph-Causal-Learning.

研究の動機と目的

• グラフニューラルネットワーク（GNN）における解釈不能性とバイアスの欠如を解消するため、反事後学習を解決策として導入すること。
• 複数の研究問題にわたるグラフ上の多様な反事後学習アプローチを理解するための統一されたフレームワークを提供すること。
• オープンソース実装、公開データセット、評価メトリクスを収集・整理し、研究者にとっての集中型リソースとしての役割を果たすこと。
• スケーラビリティ、動的グラフの取り扱い、教師なし反事後学習といった重要な未解決課題を特定・強調すること。
• 今後の研究方向性を提示することで、グラフ学習、因果推論、実世界の応用の交差分野におけるさらなる研究を促進すること。

提案手法

• 既存のグラフ反事後学習手法を4つの問題ベースのグループに分類：反事後公平性、反事後説明、反事後リンク予測、実世界の応用。
• すべてのカテゴリにわたる問題定式化、データ生成、モデル学習、評価を統一する一般化されたフレームワークを提案。
• 各カテゴリにおける代表的手法をレビューし、グラフ構造の摂動（例：ノード／エッジの変更）によって有効な反事後を生成する技術に焦点を当てる。
• 「もしも～ならば」のシナリオをモデル化するため、因果推論の原則を強調。事実の結果が観測され、介入のもとでの反事後結果が推定される。
• 忠実度、妥当性、スパarsityに基づく評価プロトコルを導入し、生成された反事後の品質を評価。
• 再現可能性とコミュニティの成長を支援するため、継続的に更新されるGitHubリポジトリを維持。ここには、キュレートされた論文、コード、データセット、ベンチマークが収録されている。

実験結果

リサーチクエスチョン

• RQ1 反事後学習は、学習データからのバイアスを軽減することで、グラフニューラルネットワークにおける公平性をどのように向上させることができるか？
• RQ2 グラフ構造データにおける忠実かつ妥当な反事後説明を生成するための主な設計原則と評価基準は何か？
• RQ3 反事後推論は、グラフ構造内の因果的依存関係をモデル化することで、リンク予測をどのように向上させることができるか？
• RQ4 大規模かつ動的グラフへの反事後学習のスケーラビリティに関する主な課題は何か？
• RQ5 リソースが限られたグラフ環境において、教師なしまたは自己教師あり反事後学習の機会は何か？

主な発見

• 反事後学習は、因果的依存関係を明らかにする「もしも～ならば」のシナリオを生成することで、GNNにおけるモデルの解釈可能性を向上させるとともにバイアスを低減する。
• 本サーベイでは、グラフ上の反事後説明に対する標準化された評価メトリクスの欠如を特定し、因果構造に整合したメトリクスの必要性を強調している。
• 反事後生成と再訓練の反復的プロセスのため、特にソーシャルネットワークや知識グラフのような大規模グラフでは、スケーラビリティの問題に直面している。
• 動的グラフ設定は未だ十分に検討されておらず、実世界のグラフが本質的に時間経過とともに変化することを考慮すると、多くの手法が静的グラフ構造を仮定している。
• 自己教師あり事前学習がグラフ表現学習で成功を収めた一方で、グラフ上の教師なし・自己教師あり反事後学習はほとんど未開拓の分野である。
• 著者らは、オープンソースツール、データセット、メトリクスを収集した包括的なリソースリポジトリを構築しており、継続的にメンテナンスされており、グラフ反事後学習分野の研究を支援している。