[論文レビュー] PGM-Explainer: Probabilistic Graphical Model Explanations for Graph Neural Networks

Minh N. Vu, My T. Thai|arXiv (Cornell University)|Oct 12, 2020

Explainable Artificial Intelligence (XAI)参考文献 31被引用数 42

ひとこと要約

PGM-Explainerは、非線形特徴依存性を捉えるためにベイズ網を用いるモデル非依存のGNN用説明器を提案し、説明のためのマルコフブランケットに基づくグラフ成分の部分集合を特定する。

ABSTRACT

In Graph Neural Networks (GNNs), the graph structure is incorporated into the learning of node representations. This complex structure makes explaining GNNs' predictions become much more challenging. In this paper, we propose PGM-Explainer, a Probabilistic Graphical Model (PGM) model-agnostic explainer for GNNs. Given a prediction to be explained, PGM-Explainer identifies crucial graph components and generates an explanation in form of a PGM approximating that prediction. Different from existing explainers for GNNs where the explanations are drawn from a set of linear functions of explained features, PGM-Explainer is able to demonstrate the dependencies of explained features in form of conditional probabilities. Our theoretical analysis shows that the PGM generated by PGM-Explainer includes the Markov-blanket of the target prediction, i.e. including all its statistical information. We also show that the explanation returned by PGM-Explainer contains the same set of independence statements in the perfect map. Our experiments on both synthetic and real-world datasets show that PGM-Explainer achieves better performance than existing explainers in many benchmark tasks.

研究の動機と目的

• グラフニューラルネットワーク（GNN）に対するモデル非依存の説明フレームワークを提供する。
• 特徴の依存関係を捉える確率的グラフィカルモデルを用いてGNNの予測を説明する。
• 予測に影響を与える、コンパクトで情報量の多いグラフ成分の部分集合を特定する。
• 説明が完全性のためターゲット予測のマルコフブランケットを含むようにする。

提案手法

• 説明をGNNのターゲット予測を近似するベイズ網として定式化する。
• 元の入力の近くでGNNの応答を捉えるサンプルデータセット D_t を作成するような乱れた入力グラフを生成する。
• マルコフブランケットの概念を用いて変数を選択し、ターゲットのマルコフブランケットを含むコンパクトな集合 U(t) を得る。
• I-等価な構造を得るために、BICスコアを最大化して説明用ベイズ網を学習する（オプションのno-child制約を含む）。
• 適切な場合にターゲットをリーフにして解釈性を確保するno-child制約を提供する。
• 加法的、線形寄与説明ではなく、条件付き確率ベースの説明を提供する。

実験結果

リサーチクエスチョン

• RQ1 確率的グラフィカルモデルはどのようにしてGNNの予測を忠実に近似できるか？
• RQ2 ベイズ網は、ターゲット予測に影響を与える説明された特徴間の依存関係を明らかにできるか？
• RQ3 説明をマルコフブランケットに制約すると、正確で簡潔な説明が得られるか？
• RQ4 合成データおよび実世界データに対して、PGM-Explainerは既存のGNN説明法（例：GNNExplainer、SHAP）と比較してどのように性能を発揮するか？

主な発見

• PGM-Explainerは合成データセットにおいてSHAPおよびGNNExplainerを上回ることが多く、真のモチーフ説明を特定する精度が高いことを示している。
• 実世界データセットでは、ノードおよびグラフの予測を説明する際の精度が競合手法より高い。
• 説明は、隣接ノードの組み合わせがターゲット予測にどのように影響するかを示す解釈可能な条件付き確率を提供する。
• 手法はグラフ成分間の非線形依存を捉え、加法的特徴寄与を超える。
• ターゲットのマルコフブランケットを含む変数の部分集合に制限することでスケールする。構造学習を実現可能にする。