[論文レビュー] PGM-Explainer: Probabilistic Graphical Model Explanations for Graph Neural Networks

Minh N. Vu, My T. Thai|arXiv (Cornell University)|Oct 12, 2020

Explainable Artificial Intelligence (XAI)被引用数 92

ひとこと要約

PGM-Explainer は、ベイズ網を用いて予測を近似し、特徴量の依存関係を条件付き確率とMarkov-blanketの保証で捉える、GNN向けのモデル非依存の説明手法を導入します。合成データセットおよび実世界データセットで、ベースラインより優れた説明を示します。

ABSTRACT

In Graph Neural Networks (GNNs), the graph structure is incorporated into the\nlearning of node representations. This complex structure makes explaining GNNs'\npredictions become much more challenging. In this paper, we propose\nPGM-Explainer, a Probabilistic Graphical Model (PGM) model-agnostic explainer\nfor GNNs. Given a prediction to be explained, PGM-Explainer identifies crucial\ngraph components and generates an explanation in form of a PGM approximating\nthat prediction. Different from existing explainers for GNNs where the\nexplanations are drawn from a set of linear functions of explained features,\nPGM-Explainer is able to demonstrate the dependencies of explained features in\nform of conditional probabilities. Our theoretical analysis shows that the PGM\ngenerated by PGM-Explainer includes the Markov-blanket of the target\nprediction, i.e. including all its statistical information. We also show that\nthe explanation returned by PGM-Explainer contains the same set of independence\nstatements in the perfect map. Our experiments on both synthetic and real-world\ndatasets show that PGM-Explainer achieves better performance than existing\nexplainers in many benchmark tasks.\n

研究の動機と目的

• 複雑なグラフ構造を考慮したGNNの予測に対する透明性の高い説明を動機づける。
• 確率的グラフィカルモデルを用いて予測を近似する、モデルに依存しない説明子を提案する。
• 説明される特徴量間の依存関係を、線形帰属を超えて捉える説明を保証する。
• 作成された PGM と対象予測の Markov-blanket に関連する理論的保証を提供する。
• 合成データと実世界のタスクで経験的に評価し、説明の有効性と直感を示す。

提案手法

• 説明を、GNNのターゲット予測を近似するベイズ網として定義する。
• 入力グラフを摂動させ、予測を記録してサンプルデータを構築する。
• ペアワイズ依存性テストを用いて、ターゲットを含むMarkov-blanketにPGMを制約する変数選択を行う。
• BICスコアベースのアプローチとヒルクライミング最適化を用いてPGMの構造とパラメータを学習する。
• 解釈性を高めるため、任意でターゲットを葉にするno-child制約を課す。
• 完全なマップ下でMarkov-blanketの包含とI-等価性を示す理論的結果を提供する。

実験結果

リサーチクエスチョン

• RQ1 確率的グラフィカルモデルは、解釈可能性を保ちながらGNNのターゲット予測を忠実に近似できるか？
• RQ2 説明をコンパクトなMarkov-blanketに制限することで、ターゲット予測に必要な全ての情報を捉えるか？
• RQ3 PGMベースの説明子は、既存の加法属性説明子と精度と解釈性の点でどのように比較されるか？
• RQ4 Markov-blanketの包含とI-等価性に関して、PGM-Explainerにはどのような理論的保証があるか？

主な発見

• PGM-Explainer は、グラフ要素間の非線形依存性を捉える説明を生み出し、線形帰属法とは異なる。
• 理論的な結果は、生成されたPGMがターゲット予測のMarkov-blanketを含み、すべての統計情報を保持することを示す。
• 合成データセットと実世界データセットでの実証結果は、PGM-ExplainerがSHAPやGNNExplainerを説明の精度/正確さでしばしば上回ることを示している。
• ノードおよびグラフ分類タスクで、説明は近傍ノードやモチーフがターゲット予測にどのように影響するかについて、直感的な確率的洞察を提供する。