[論文レビュー] MotifExplainer: a Motif-based Graph Neural Network Explainer

Zhaoning Yu, Hongyang Gao|arXiv (Cornell University)|Feb 1, 2022

Explainable Artificial Intelligence (XAI)被引用数 6

ひとこと要約

MotifExplainer は、個々のノードやエッジではなく、再発的で統計的に有意なモチーフを主な説明単位として特定する、新しいモデルに依存しない GNN 解釈手法である。ドメイン固有のモチーフを抽出し、事前学習済み GNN を用いてそれらを符号化した後、アテンション機構を用いてその予測的重要性をランク付けすることで、従来のノード・エッジ・部分グラフレベルの解釈手法と比較して、解釈性と効率性に優れた結果を達成している。MUTAG においては推論時間が 0.03 秒未満、学習時間が 400 秒未塔である。

ABSTRACT

We consider the explanation problem of Graph Neural Networks (GNNs). Most existing GNN explanation methods identify the most important edges or nodes but fail to consider substructures, which are more important for graph data. The only method that considers subgraphs tries to search all possible subgraphs and identify the most significant subgraphs. However, the subgraphs identified may not be recurrent or statistically important. In this work, we propose a novel method, known as MotifExplainer, to explain GNNs by identifying important motifs, recurrent and statistically significant patterns in graphs. Our proposed motif-based methods can provide better human-understandable explanations than methods based on nodes, edges, and regular subgraphs. Given an input graph and a pre-trained GNN model, our method first extracts motifs in the graph using well-designed motif extraction rules. Then we generate motif embedding by feeding motifs into the pre-trained GNN. Finally, we employ an attention-based method to identify the most influential motifs as explanations for the final prediction results. The empirical studies on both synthetic and real-world datasets demonstrate the effectiveness of our method.

研究の動機と目的

• 従来の GNN 解釈手法がノードやエッジに焦点を当てており、グラフ解釈に不可欠な高次構造的パターンを捉えられていないという限界を是正すること。
• 任意のまたは代表的でない部分グラフではなく、再発的かつ統計的に有意な部分構造（モチーフ）を特定することで、GNN の予測の可視化を人間が理解しやすくすること。
• スケーラブルで解釈可能な GNN 解釈を実現するため、モチーフレベルのアテンションを活用した効率的でモデルに依存しない説明フレームワークの開発。
• 薬剤発見などの分野における実用的応用を可能にするために、GNN の予測から再利用可能なフラグメントライブラリを生成すること。

提案手法

• ドメイン固有のルール（専門家の知識に基づく）を用いてモチーフ抽出を実施し、入力グラフ内の再発的部分グラフパターンを同定する。
• 抽出された各モチーフは、事前学習済み GNN の特徴抽出部を用いて埋め込み表現に変換され、構造的および特徴情報が保持される。
• GNN の最終予測への寄与度に基づいて、モチーフの重要度スコアを割り当てるアテンションベースのモデルを学習する。
• アテンション重みで上位にランク付けされたモチーフが最終的な説明として選択され、GNN 決定の要約として簡潔で人間が読みやすい要約が得られる。
• モデルに依存しない手法であり、GNN の再学習を必要としないため、任意の事前学習済み GNN モデルに適用可能である。
• 学習プロセスにはモチーフ抽出、モチーフ埋め込みの構築、アテンションモデルの学習が含まれ、推論は極めて効率的である。

実験結果

リサーチクエスチョン

• RQ1 GNN におけるノード・エッジレベルの説明と比較して、モチーフベースの説明は、より解釈可能で人間が理解しやすいインサイトを提供できるか？
• RQ2 再発的かつ統計的に有意なモチーフを特定することで、任意の部分グラフの同定と比較して、より信頼性が高く汎用性のある説明が得られるか？
• RQ3 アテンション機構は、GNN 決定における予測的関連性に基づいてモチーフを効果的にランク付けできるか？
• RQ4 推論時間と学習時間の観点から、既存の最先端 GNN 解釈手法と比較して、モチーフベースの説明はどの程度効率的か？

主な発見

• MUTAG データセットにおいて、MotifExplainer は比較対象のすべての手法の中で最も速い推論時間を達成しており、1グラフあたり平均 0.02 秒である。
• PGExplainer（363s 対 740s）および ReFine（363s 対 946s）と比較して、学習時間の点で顕著に短縮されており、学習効率の向上が裏付けられている。
• 合成データおよび実世界データの両方において、GNNExplainer、PGExplainer、SubgraphX、ReFine と比較して、MotifExplainer はより正確で質の高い説明を生成している。
• アテンションベースのモチーフ選択により、特にモチーフの再利用が重要な薬剤発見関連タスクにおいて、より一貫性があり解釈可能な説明が得られている。
• 実証的結果から、再発的で統計的に有意なモチーフに基づく説明は、再発的でないか、統計的に有意でない部分グラフに基づく説明と比較して、より安定的で意味的に明確であることが確認された。