[論文レビュー] GRAPHSHAP: Explaining Identity-Aware Graph Classifiers Through the Language of Motifs

Alan Perotti, Paolo Bajardi+2 more|arXiv (Cornell University)|Feb 17, 2022

Explainable Artificial Intelligence (XAI)被引用数 4

ひとこと要約

GRAPHSHAP は、ネットワークモチーフを解釈可能な説明言語として用いることで、モデルに依存しないシャープリー値に基づく手法を導入し、アイデンティティに配慮したグラフ分類器を解釈する。プログレッシブカーネルを用いてモチーフの重要度スコアを効率的に近似することで、スケーラブルで実行可能な説明が可能となり、脳ネットワークにおいても、一部のモチーフ（例：M5）が自閉症スペクトラム障害の分類を強く説明することが実証された。

ABSTRACT

Most methods for explaining black-box classifiers (e.g. on tabular data, images, or time series) rely on measuring the impact that removing/perturbing features has on the model output. This forces the explanation language to match the classifier's feature space. However, when dealing with graph data, in which the basic features correspond to the edges describing the graph structure, this matching between features space and explanation language might not be appropriate. Decoupling the feature space (edges) from a desired high-level explanation language (such as motifs) is thus a major challenge towards developing actionable explanations for graph classification tasks. In this paper we introduce GRAPHSHAP, a Shapley-based approach able to provide motif-based explanations for identity-aware graph classifiers, assuming no knowledge whatsoever about the model or its training data: the only requirement is that the classifier can be queried as a black-box at will. For the sake of computational efficiency we explore a progressive approximation strategy and show how a simple kernel can efficiently approximate explanation scores, thus allowing GRAPHSHAP to scale on scenarios with a large explanation space (i.e. large number of motifs). We showcase GRAPHSHAP on a real-world brain-network dataset consisting of patients affected by Autism Spectrum Disorder and a control group. Our experiments highlight how the classification provided by a black-box model can be effectively explained by few connectomics patterns.

研究の動機と目的

• 特徴空間（エッジ）が人間が理解可能な構造と一致しない場合に、グラフ分類モデルに対する実行可能で高水準の説明が不足しているという問題に対処する。
• モデルの内部特徴空間（エッジ）と望ましい説明言語（モチーフ）を分離することで、モデルへのアクセスなしに解釈可能なインサイトを提供する。
• ノードのアイデンティティが複数のグラフにわたって一貫する「アイデンティティに配慮したグラフ分類器」に対して、ブラックボックス手法を用いてスケーラブルな説明を提供する。この手法では、モチーフに基づく帰属割り当てを実現する。
• プログレッシブな近似カーネルを用いて、大規模なモチーフ空間におけるシャープリー値の計算を効率化することで、大規模なモチーフ帰属割り当てを可能にする。
• 実世界の脳ネットワークデータを用いて手法を検証し、自閉症スペクトラム障害に関連する結合組織的パターンを同定する。

提案手法

• 協力的ゲーム理論におけるシャープリー値を、エッジではなくモチーフの重要度に適用する。各モチーフを「プレーヤー」と見なし、モデルの予測変化を「利益」とみなす。
• コалиションゲームを定義し、値関数を、グラフにモチーフを追加または削除した際のモデル出力の差分として測定する。トグルマスキングを用いて、モチーフの存在／非存在をシミュレートする。
• 深さ1までのシャープリー値（単一モチーフのコアリションのみを考慮）を計算するプログレッシブな近似戦略を導入し、計算コストを大幅に削減する。
• サンプリングと平均化を用いて効率的にシャープリー得点を推定するカーネルベースの近似手法を設計し、大規模なモチーフ空間へのスケーラビリティを実現する。
• トグルマスキングを用いて、各モチーフについて、元のグラフと、モチーフがトグル（追加／削除）されたバージョンの両方でモデルを照会する。
• データセット全体にわたる局所的説明を統合して、グローバルなモチーフ重要度ランク付けを導出し、仮説の生成と検証を可能にする。

実験結果

リサーチクエスチョン

• RQ1 エッジレベルの説明と比較して、モチーフベースの説明は、グラフ分類器に対してより実行可能で解釈可能なインサイトを提供できるか？
• RQ2 シャープリー値は、個々のエッジではなく、より高次のネットワーク構造（モチーフ）の重要度にどのように適合できるか？
• RQ3 大規模なモチーフ空間において、正確性を損なわずに、モチーフのシャープリー値をスケーラブルに計算するための近似戦略は何か？
• RQ4 モチーフベースの説明は、実世界の脳ネットワークデータにおいて、生物学的に意味のあるパターンをどれほど効果的に同定できるか？
• RQ5 局所的およびグローバルなモチーフ重要度スコアの相関関係はどの程度か？また、グローバルランクは、重要な結合組織的パターンの発見を支援できるか？

主な発見

• 脳ネットワークデータセットにおいて、深さ1の近似は、正確な値と中央値でピアソン相関係数 0.997 を達成し、コストの僅か数パーセントで高い忠実度を確認した。
• グローバル重要度が一貫して高いのは、少数のモチーフ（例：M5）に限られ、モデルの予測を支配する結合組織的パターンが少数に集中していることを示した。
• M5 は最もグローバルに重要なモチーフであり、ASD患者 P1 および P2 において両者とも強力な局所的説明スコアを示し、分類における中心的役割を果たしている。
• M2 は1人の患者（P2）において局所的に重要であったが、グローバルには無視できる重要度であった。これは、局所的説明が微妙な意思決定要因を明らかにする価値があることを示している。
• 100個のモチーフに対して、線形の計算コストで帰属割り当てが可能であり、正確な計算と比較して約 10^26 回の演算を節約した。
• この手法により、実行可能で神経科学的関連性のある仮説（例：M5 の欠如が ASD 分類に強く寄与する）が効果的に生成され、実世界応用における有効性が検証された。