[論文レビュー] Explainability in Graph Neural Networks: A Taxonomic Survey

Hao Yuan, Haiyang Yu+2 more|arXiv (Cornell University)|Dec 31, 2020

Advanced Graph Neural Networks被引用数 94

ひとこと要約

この調査は、GNN explainability methodsの統一的な分類法を提供し、標準化されたテストベッドを導入し、グラフニューラルネットワークのインスタンスレベルおよびモデルレベルの説明を比較する実験を実施します。

ABSTRACT

Deep learning methods are achieving ever-increasing performance on many artificial intelligence tasks. A major limitation of deep models is that they are not amenable to interpretability. This limitation can be circumvented by developing post hoc techniques to explain the predictions, giving rise to the area of explainability. Recently, explainability of deep models on images and texts has achieved significant progress. In the area of graph data, graph neural networks (GNNs) and their explainability are experiencing rapid developments. However, there is neither a unified treatment of GNN explainability methods, nor a standard benchmark and testbed for evaluations. In this survey, we provide a unified and taxonomic view of current GNN explainability methods. Our unified and taxonomic treatments of this subject shed lights on the commonalities and differences of existing methods and set the stage for further methodological developments. To facilitate evaluations, we generate a set of benchmark graph datasets specifically for GNN explainability. We summarize current datasets and metrics for evaluating GNN explainability. Altogether, this work provides a unified methodological treatment of GNN explainability and a standardized testbed for evaluations.

研究の動機と目的

• GNN説明技術の包括的で統一的なレビューを提供する。
• インスタンスレベルとモデルレベルの説明を分類する分類フレームワークを提案する。
• GNN説明評価のデータセット、評価指標、およびオープンソースライブラリを紹介する。
• 複数の説明アプローチの性能を比較・分析する実験を実施する。

提案手法

• GNNsのインスタンスレベルとモデルレベルの説明の二系統分類法を開発する。
• インスタンスレベルの説明の中で、勾配/特徴ベース、摂動ベース、分解、代替手法に分類する。
• モデルレベルの説明を調査し、現時点ではXGNNを代表例として、説明のためのグラフ生成に焦点を当てる。
• GNN説明可能性の評価のためのデータセット、共通アルゴリズム、評価指標を含む標準化されたテストベッドを提案する。
• 各手法の方法論、利点、欠点、差異を批判的に分析する。

実験結果

リサーチクエスチョン

• RQ1 GNN説明可能性手法の主なカテゴリとサブカテゴリは何か？
• RQ2 インスタンスレベルとモデルレベルの説明技術は、目標と出力においてどのように異なるか？
• RQ3 GNNの説明を評価するのに適したデータセットと評価指標は何か、それらの限界は何か？
• RQ4 ノード・エッジ・グラフレベルの予測などのタスクで、異なるGNN説明手法は実務上どのように比較されるか？

主な発見

• インスタンスレベルの説明における勾配/特徴ベース、摂動ベース、分解、代替手法の区別を明確にする統一分類法。
• モデルレベルの説明はあまり探究されておらず、調査時点ではXGNNが主要な例であった。
• 本論文は、GNN説明可能性手法の評価を標準化するため、データセット、アルゴリズム、評価指標を含む公開テストベッドを提供する。
• オープンソースライブラリと多様な実験を紹介し、説明技術を比較し今後の手法開発を導く。