[論文レビュー] GCExplainer: Human-in-the-Loop Concept-based Explanations for Graph Neural Networks

Lucie Charlotte Magister, Dmitry Kazhdan+2 more|arXiv (Cornell University)|Jul 25, 2021

Explainable Artificial Intelligence (XAI)参考文献 32被引用数 14

ひとこと要約

GCExplainer は、ユーザーの知見を活用した概念発見を活用することで、人間が関与するループ型の教師なし手法を提案し、グラフニューラルネットワーク（GNN）におけるグローバルで概念ベースの説明を発見する。GNNExplainer よりも優れた解釈性、高品質でグローバルに適用可能な説明を生成し、データセット全体で最大完全性スコア1.0、平均0.753を達成する。

ABSTRACT

While graph neural networks (GNNs) have been shown to perform well on graph-based data from a variety of fields, they suffer from a lack of transparency and accountability, which hinders trust and consequently the deployment of such models in high-stake and safety-critical scenarios. Even though recent research has investigated methods for explaining GNNs, these methods are limited to single-instance explanations, also known as local explanations. Motivated by the aim of providing global explanations, we adapt the well-known Automated Concept-based Explanation approach (Ghorbani et al., 2019) to GNN node and graph classification, and propose GCExplainer. GCExplainer is an unsupervised approach for post-hoc discovery and extraction of global concept-based explanations for GNNs, which puts the human in the loop. We demonstrate the success of our technique on five node classification datasets and two graph classification datasets, showing that we are able to discover and extract high-quality concept representations by putting the human in the loop. We achieve a maximum completeness score of 1 and an average completeness score of 0.753 across the datasets. Finally, we show that the concept-based explanations provide an improved insight into the datasets and GNN models compared to the state-of-the-art explanations produced by GNNExplainer (Ying et al., 2019).

研究の動機と目的

• 安全で重要な応用分野における GNN の透明性と説明責任の欠如に対処する。
• 局所的説明（例：GNNExplainer）の限界を克服する。これらは個々のインスタンスに特化しており、一般化できない。
• ノードやグラフ全体にわたる繰り返し現れる構造的・特徴的パターンを捉えるグローバルで概念ベースの説明を可能にする。
• ドメイン知識と関連性の高い解釈性を保証するため、人間の専門知識を概念発見に統合する。
• 多様な GNN ベースの学習タスクやデータセットに一般化可能なフレームワークを開発する。

提案手法

• 後処理の説明を目的として、GNN に向けた自動概念ベースの説明（ACE）フレームワークを適応する。
• GNN の活性化パターンの教師なしクラスタリングを用いて、候補となる概念表現を同定する。
• ユーザーが概念をラベル付け・精練できるようにすることで、人間のフィードバックを統合し、解釈性を向上させる。
• 周辺拡張（nホップ）を適用して、重要なノードの周囲の概念構造を可視化および検証する。
• 発見された概念がモデルの予測をどの程度よく説明できるかを評価するために、完全性指標を用いる。
• 複数のグラフ間での概念アライメントを実施し、予測タスクに関連する一貫性のあるグローバルモチーフを抽出する。

実験結果

リサーチクエスチョン

• RQ1 人間が関与するループ型の概念発見は、GNN の予測において意味的でグローバルに解釈可能なパターンを抽出できるか？
• RQ2 GNNExplainer などの局所的説明と比較して、概念ベースの説明は解釈性と完全性の観点でどの程度優れているか？
• RQ3 教師なしの概念発見は、ドメイン知識と整合する構造的モチーフをどの程度特定できるか？
• RQ4 ノード分類およびグラフ分類タスクにおいて、複数のグラフにわたって一貫性があり再利用可能な概念を同定するのに、この手法はどの程度効果的か？
• RQ5 ユーザーのフィードバックは、抽出された概念の品質と関連性にどのような影響を与えるか？

主な発見

• GCExplainer は、5つのノード分類および2つのグラフ分類データセット全体で、最大完全性スコア1.0、平均完全性スコア0.753を達成した。
• 本手法は、分子グラフにおけるリング構造や、ソーシャルネットワークにおけるユーザーレスポンスモチーフといった、高品質で解釈可能な概念を効果的に発見した。
• 概念ベースの説明は、GNNExplainer の局所的サブグラフ説明よりも、モデル挙動に関するより包括的なグローバルなインサイトを提供した。
• 本アプローチにより、複数のグラフにわたる構造的パターンの探索が可能となり、C–H クラスターやスターリンク型の相互作用パターンといった繰り返し現れるモチーフが明らかになった。
• ユーザーの知見に基づく精練により、特に REDDIT-BINARY のような複雑なデータセットにおいて、概念の純度と関連性が向上した。
• 概念発見はノード分類タスクでより効果的であるが、グラフ分類タスクにおいても、高い複雑さがあるにもかかわらず、依然として価値のあるグローバルなインサイトを提供した。