[論文レビュー] DEGREE: Decomposition Based Explanation For Graph Neural Networks

Qizhang Feng, Ninghao Liu+4 more|arXiv (Cornell University)|May 22, 2023

Explainable Artificial Intelligence (XAI)被引用数 5

ひとこと要約

DEGREEは、グラフニューラルネットワーク（GNN）のための分解ベースの説明手法を提案する。この手法は、GNNのメッセージパッシング機構を介してグラフ構成要素の寄与度を追跡し、ノードおよび部分グラフの相互作用について忠実で加法的でない説明を保証する。構造的分解と部分グラフの統合を活用することで、摂動やサーロウトモデルを用いずに、ノード分類およびグラフ分類タスクで最先端の忠実性を達成する。

ABSTRACT

Graph Neural Networks (GNNs) are gaining extensive attention for their application in graph data. However, the black-box nature of GNNs prevents users from understanding and trusting the models, thus hampering their applicability. Whereas explaining GNNs remains a challenge, most existing methods fall into approximation based and perturbation based approaches with suffer from faithfulness problems and unnatural artifacts, respectively. To tackle these problems, we propose DEGREE \degree to provide a faithful explanation for GNN predictions. By decomposing the information generation and aggregation mechanism of GNNs, DEGREE allows tracking the contributions of specific components of the input graph to the final prediction. Based on this, we further design a subgraph level interpretation algorithm to reveal complex interactions between graph nodes that are overlooked by previous methods. The efficiency of our algorithm can be further improved by utilizing GNN characteristics. Finally, we conduct quantitative and qualitative experiments on synthetic and real-world datasets to demonstrate the effectiveness of DEGREE on node classification and graph classification tasks.

研究の動機と目的

• GNNのブラックボックス性に起因する、忠実で細粒度の説明の不足に対処すること。
• 近似ベースおよび摂動ベースの説明手法の限界を克服すること。これらの手法は忠実性が低く、不自然なアーチファクトを生じがちである。
• グラフ構成要素間の複雑で非線形な相互作用を捉える部分グラフレベルの解釈を可能にすること。
• サーロウトモデルや入力の摂動に依存せずに、GNNのフォワード伝播を直接分析する手法を設計すること。
• 説明生成中にGNN固有の構造的性質を活用することで、計算効率を確保すること。

提案手法

• DEGREEは、GNNにおけるメッセージパッシング機構を分解し、異なるノードグループが最終予測に与える寄与度を分離する。
• GCNやGATなどの一般的なGNNレイヤーに対して、入力グラフ構成要素からの情報フローを追跡するための特定の分解スキームを設計する。
• トポロジー構造とDEGREEスコアを組み合わせた部分グラフ統合アルゴリズムを用いて、意味のある部分グラフ集合を説明として同定する。
• 加法的でない属性を避けることで、グラフ構成要素間の非線形相互作用を検出可能にする。
• 近似や摂動ではなく、ネイティブなフォワードパスの分析により、説明の忠実性を保証する。
• GNNの組み込みフォワード伝播計算グラフを再利用することで、効率性を向上させる。

Figure 1: Illustration of the DEGREE for decomposing GCN. Node features or latent embeddings contain target portion (orange hemisphere) and an background portion (blue hemisphere). (a)-(c) show the workflow of the GCN, exhibiting only the messages aggregation for node A. (d) demonstrates message agg

実験結果

リサーチクエスチョン

• RQ1 分解ベースのアプローチは、従来の近似ベースや摂動ベースの手法よりも、GNN予測に対してより忠実な説明を提供できるか？
• RQ2 DEGREEは、ノード分類およびグラフ分類タスクにおいて、グラフ構成要素間の複雑で非線形な相互作用をどれほど正確に捉えられるか？
• RQ3 合成および実世界のグラフデータセットにおいて、DEGREEは最先端のベースラインに比べて説明の忠実性でどれほど優れているか？
• RQ4 DEGREEは、分子グラフにおける機能的グループなど、意味的に意味のある部分グラフを効果的に同定できるか？
• RQ5 異なるGNNアーキテクチャにわたって、高忠実度の説明を維持しながら、効率性の観点からどのようにスケーリングできるか？

主な発見

• DEGREEはノード分類タスクで最先端の説明AUCを達成し、BA-Communityでは約9%、MUTAGでは約5%の改善を示した。
• GCNおよびGATモデルの両方で高い忠実性を示し、さまざまなGNNアーキテクチャへの広範な適応性を裏付けた。
• 定性的な分析により、DEGREEはMUTAGにおいて「NO2」と「NH2」のようなキーモチーフを、化学的知識と整合する強力な変異原性指標として正しく同定した。
• Graph-SST2では、接続法のトーンなどの文の部分間の非線形相互作用を検出し、正しくも誤っても予測される理由を説明できた。
• 部分グラフ統合アルゴリズムは、複雑な構造的パターン、例えば「CH3」と他のモチーフとの間の負の相互作用（モデルの誤りを引き起こす要因）を効果的に明らかにした。
• フォワードパスの計算グラフを再利用することで、DEGREEは追加の学習を必要とせず、高い効率性を達成した。

Figure 2: The subgraph agglomeration results on MUTAG dataset. The first row shows a correct prediction. The second and the third row report two typical examples of errors. Red is mutagenic, blue is non-mutagenic, gray is not selected. The colored edges link the selected nodes. The process goes from