[論文レビュー] A Survey on Graph Counterfactual Explanations: Definitions, Methods, Evaluation, and Research Challenges

Mario Alfonso Prado-Romero, Bardh Prenkaj+2 more|arXiv (Cornell University)|Oct 21, 2022

Advanced Graph Neural Networks参考文献 105被引用数 8

ひとこと要約

本調査は、GNNのためのグラフ対向的説明（GCE）について、包括的で形式的な概要を提供し、統一された分類体系、評価フレームワーク、ベンチマークプロトコルを導入する。本研究では、マルチクラスGNN設定における最小対向的説明の最初の形式的定式化を提案し、GRETELライブラリを用いて19の指標を用いて22のデータセットで14の手法を評価する。また、信頼性のあるAIのための公平性、プライバシー、標準化に関する主要な課題を特定する。

ABSTRACT

Graph Neural Networks (GNNs) perform well in community detection and molecule classification. Counterfactual Explanations (CE) provide counter-examples to overcome the transparency limitations of black-box models. Due to the growing attention in graph learning, we focus on the concepts of CE for GNNs. We analysed the SoA to provide a taxonomy, a uniform notation, and the benchmarking datasets and evaluation metrics. We discuss fourteen methods, their evaluation protocols, twenty-two datasets, and nineteen metrics. We integrated the majority of methods into the GRETEL library to conduct an empirical evaluation to understand their strengths and pitfalls. We highlight open challenges and future work.

研究の動機と目的

• GNNのためのグラフ対向的説明（GCE）における標準化された定義、評価プロトコル、ベンチマークの欠如に対処すること。
• マルチクラスGNN予測タスクにおける最小対向的説明の概念を統一的かつ形式的に定式化すること。
• 10次元の観点から、既存のGCE手法を体系的に比較可能な包括的な分類体系を構築すること。
• GRETEL評価フレームワークを用いて、22のデータセットと19の指標を用いて14の最先端GCE手法を評価すること。
• 今後のGCE研究のための公平性、プライバシー、標準化に関する未解決課題を特定すること。

提案手法

• マルチクラスGNNのための最小対向的説明の形式的定義を提案し、すべてのクラスにわたるグローバル最小対向的説明を含む。
• 摂動タイプ、探索戦略、説明可能範囲などの主要な特徴に基づいて、GCE手法を体系的に比較可能な10次元分類フレームワークを導入する。
• GRETELライブラリを活用して14のGCE手法を実装・実験的に評価し、カスタムの説明手法、データセット、指標のプラグアンドプレイ統合を可能にする。
• 22の実データおよび合成データセットと19の指標（適合性、スパarsity、多様性など）を収集することで、評価プロトコルを標準化する。
• 将来的なベンチマークとGCE手法の比較を支援するモジュール型で再現可能な評価フレームワークを提案する。
• プライバシー保護型および公平性に配慮した設計原則について議論し、最近のAI規制と整合させる。

実験結果

リサーチクエスチョン

• RQ1 マルチクラスGNN設定において、最小かつグローバルに最適な対向的説明とは何か？
• RQ2 摂動タイプや探索戦略といった主要な次元に基づいて、GCE手法を体系的に分類・比較する方法は何か？
• RQ3 標準化されたベンチマーク下で評価された場合、既存のGCE手法の強みと限界は何か？
• RQ4 GCE手法における公平性とバイアスをどのように測定・軽減できるか、信頼性のあるAIを実現するには？
• RQ5 時間的グラフや多様体のような複雑なグラフ構造へのGCEのスケーリングにおける主な課題は何か？

主な発見

• 本調査は、マルチクラスGNNのための最小対向的説明の最初の形式的定式化を提示し、すべてのクラスにわたる元のグラフからの距離を最小化するグローバル最小バージョンを含む。
• 10次元にわたる14のGCE手法の包括的分類体系を確立し、特定の用途に適した手法の明確な比較・選定を可能にする。
• GRETELを用いた実験的評価により、大多数の手法が高い適合性を達成しているが、スパarsity、多様性、意味的意味を持つ対向的説明を生成できないことが判明した。
• 本研究では、マルチラベル予測専用に設計された手法が著しく不足していることが判明し、主要な未解決研究ギャップを示している。
• 評価結果から、既存の指標が研究間で一貫性がなく、標準化されたベンチマークプロトコルの導入が急務であることが浮き彫りになった。
• 著者らは、GCEにおけるプライバシーや公平性がまだ十分に検討されておらず、EU AI法などの規制基準に準拠するように設計された手法は現時点では存在しないと強調している。