[論文レビュー] Counterfactual Graph Learning for Link Prediction.

Tong Zhao, Gang Liu+3 more|arXiv (Cornell University)|Jun 3, 2021

Advanced Graph Neural Networks参考文献 76被引用数 4

ひとこと要約

本稿では、観測されたリンクから合成された反事後的リンクを生成することで、グラフ表現学習を向上させるために反事後的推論を活用する、新しいリンク予測手法を提案する。ノードペアの文脈を文脈とし、グローバルなグラフ構造を処置とし、リンクの存在を結果として扱うことで、本手法は実際のリンクと反事後的リンクの両方から強化された表現を学習し、ベンチマークデータセットで最先端の性能を達成する。

ABSTRACT

Learning to predict missing links is important for many graph-based applications. Existing methods were designed to learn the observed association between two sets of variables: (1) the observed graph structure and (2) the existence of link between a pair of nodes. However, the causal relationship between these variables was ignored and we visit the possibility of learning it by simply asking a counterfactual question: would the link exist or not if the observed graph structure became different? To answer this question by causal inference, we consider the information of the node pair as context, global graph structural properties as treatment, and link existence as outcome. In this work, we propose a novel link prediction method that enhances graph learning by the counterfactual inference. It creates counterfactual links from the observed ones, and our method learns representations from both of them. Experiments on a number of benchmark datasets show that our proposed method achieves the state-of-the-art performance on link prediction.

研究の動機と目的

• 既存のリンク予測手法がグラフ構造とリンク存在の間の因果関係を無視するという制限を是正すること。
• グラフ構造を変更した場合にリンク存在がどのように変化するかをシミュレートすることで、反事後的推論がリンク予測をどのように改善できるかを調査すること。
• 観測されたリンクと反事後的リンクの両方から同時に学習することで、より頑健なノード表現を生成する手法を開発すること。
• 反事後的推論を組み込むことで、標準的なリンク予測ベンチマークで優れた性能が得られることを実証すること。

提案手法

• 本手法は、リンク予測を反事後的推論問題としてモデル化し、ノードペアの文脈を文脈、グローバルなグラフ構造を処置、リンクの存在を結果として扱う。
• ノードレベルの特徴量と構造的文脈を保持したまま、観測されたグラフ構造を摂動することで反事後的リンクを生成する。
• 統一されたグラフニューラルネットワークフレームワークを用いて、観測されたリンクと反事後的リンクの両方の信号からノード表現を学習する。
• 構造的性質（例：エッジの有無）を変更することで反事後的リンクを構築し、その干渉によってリンク存在がどのように変化するかを評価する。
• 反事後的学習をグラフニューラルネットワークのメッセージパッシングメカニズムに統合することで、表現品質を向上させる。
• 最終的なリンク予測は、実際のリンクと反事後的リンクの両方の信号から強化された表現を利用するデコーダーを用いて行う。

実験結果

リサーチクエスチョン

• RQ1 グラフ構造を変更した場合にリンク存在がどのように変化するかをシミュレートすることで、反事後的推論がリンク予測性能を向上させられるか。
• RQ2 観測されたリンクのみを用いて学習するモデルと比較して、反事後的リンクを組み込むことで、学習されたノード表現の質がどのように向上するか。
• RQ3 提案手法が、標準的なベンチマークデータセットにおける既存の最先端のリンク予測ベースラインをどの程度上回るか。
• RQ4 反事後的推論の設定において、グローバルなグラフ構造的性質が処置として果たす貢献度はどの程度か。

主な発見

• 本手法は、グラフ学習に反事後的推論を統合することで、複数のベンチマークリンク予測データセットで最先端の性能を達成した。
• 反事後的リンクの組み込みにより、観測されたリンクのみで学習したモデルと比較して、より頑健で一般化性の高いノード表現が得られた。
• 実験により、反事後的推論が、グラフ構造とリンク存在の間の潜在的な因果的依存関係を捉えることで、モデル性能の向上に寄与することが確認された。
• 本手法は、多様なグラフタイプとリンク予測設定において一貫した改善を示し、一般化能力の有効性を裏付けた。