[論文レビュー] Preserve, Promote, or Attack? GNN Explanation via Topology Perturbation

Yi Sun, Abel N. Valente+2 more|arXiv (Cornell University)|Mar 25, 2021

Explainable Artificial Intelligence (XAI)参考文献 45被引用数 5

ひとこと要約

本稿では、スパースなトポロジー摂動を用いて、3つのユーザーモード（保持：事実的説明、促進：予測の改善、攻撃：敵対的ロバストネスのテスト）を可能にする統合的でインタラクティブなGNN説明フレームワーク、GNVizを提案する。本稿では、エッジの重要度を勾配ベースで推定する微分可能でトポロジーに配慮した最適化手法を導入し、画像分類およびソーシャルネットワークのバイアス検出において有効性を示している。

ABSTRACT

Prior works on formalizing explanations of a graph neural network (GNN) focus on a single use case - to preserve the prediction results through identifying important edges and nodes. In this paper, we develop a multi-purpose interpretation framework by acquiring a mask that indicates topology perturbations of the input graphs. We pack the framework into an interactive visualization system (GNNViz) which can fulfill multiple purposes: Preserve,Promote, or Attack GNN's predictions. We illustrate our approach's novelty and effectiveness with three case studies: First, GNNViz can assist non expert users to easily explore the relationship between graph topology and GNN's decision (Preserve), or to manipulate the prediction (Promote or Attack) for an image classification task on MS-COCO; Second, on the Pokec social network dataset, our framework can uncover unfairness and demographic biases; Lastly, it compares with state-of-the-art GNN explainer baseline on a synthetic dataset.

研究の動機と目的

• GNN予測の解釈と操作を非専門家ユーザが行えるように支援する、多目的なGNN説明ツールの不足に対処すること。
• 予測の保持のみをサポートするなど、既存のGNN説明ツールの単一用途に限界があるという問題を克服すること。
• ユーザがグラフトポロジーがGNN意思決定に与える影響を探索・変更・分析できる、インタラクティブな可視化システムの開発。
• 予測の改善（促進）と敵対的操作（攻撃）をサポートすることで、事実的および反事実的説明の両方のユースケースを実現すること。
• 画像分類やソーシャルネットワークのバイアス検出を含む、実世界のタスクにおけるフレームワークの有効性を実証すること。

提案手法

• GNN説明を、モデルの予測に影響を与えるスパースなエッジ追加・削除の最適化問題として定式化する。
• エッジの重要度スコアを勾配ベースで計算できる微分可能最適化フレームワークを設計し、組み合わせ的トポロジー変更の効率的探索を可能にする。
• 保持（予測を維持）、促進（予測を改善）、攻撃（正解ラベルから予測をずらす）の3モードをサポートする統合的目的関数を実装する。
• D3.jsおよびフォースディレクテッドレイアウトを用いたインタラクティブ可視化システム（GNViz）と最適化を統合する。
• ターゲットGNNモデルとしてグラフ畳み込みネットワーク（GCN）を採用し、摂動を加えた部分グラフに基づいて予測の変化を計算する。
• ユーザーが追加または削除するエッジ数を指定できるハイパーパramータ制御をGNVizに適用し、反復的探索を可能にする。

実験結果

リサーチクエスチョン

• RQ1 統合的GNN説明フレームワークは、トポロジー摂動を用いて、保持、促進、攻撃の3つのユーザーモチベーションを同時にサポートできるか？
• RQ2 グラフトポロジーはGNNの予測結果にどの程度影響を与えるか、エッジの重要度を定量的に測定可能か？
• RQ3 インタラクティブ可視化システムは、非専門家ユーザがGNN意思決定を効果的に解釈・操作するのを支援できるか？
• RQ4 提案手法は、意味のあるトポロジー変更を特定する点で、最先端のGNN説明ツールと比較して優れているか？
• RQ5 このフレームワークは、ソーシャルネットワークなど実世界のグラフデータにおける隠れたバイアスや脆弱性を特定できるか？

主な発見

• GNVizは、GNN予測に影響を与える重要なエッジを効果的に特定しており、例えばMS–COCOデータセットにおけるPerson–Motorcycleリンクが誤分類と相関していることが判明した。
• 促進モードでは、予測精度を向上させるためにChair–Handbagエッジの追加を適切に提案し、再評価後にGCNモデルが正しくHandbagと分類することが確認された。
• 攻撃モードでは、最小限のトポロジー変更（WineGlass–Motorcycleエッジの追加とHandbag–Personエッジの削除）により、GCNの予測が誤ったラベル（Wine Glass）にずれるのを成功裏に実現した。
• フレームワークは、Pokecソーシャルネットワークデータセットにおいて、トポロジー摂動が予測の公平性に与える影響を明らかにすることで、デモグラフィックバイアスを効果的に特定した。
• 最先端のGNN説明ベースラインと比較して、GNVizは合成データセットにおいて、特に反事実的および事実的説明タスクで関連するトポロジー変更を識別する点で優れた性能を示した。
• インタラクティブ可視化システムにより、ユーザは予測の変化をリアルタイムで探索・検証でき、GNN意思決定の解釈可能性と信頼性が向上した。