[論文レビュー] MEGAN: Multi-Explanation Graph Attention Network

Jonas Teufel, Luca Torresi+2 more|arXiv (Cornell University)|Nov 23, 2022

Explainable Artificial Intelligence (XAI)被引用数 5

ひとこと要約

MEGANは、タスク仕様から説明チャネルを分離することで、グラフ回帰タスクに対して複数の極性に配慮した帰属説明を生成する自己説明型グラフニューラルネットワークを導入する。異なるiableで説明に監視されたトレーニングを共同トレーニングと組み合わせることで、スパースで高忠実度の説明を生成し、人間の直感と整合し、合成データにおいてほぼ完璧な説明精度を達成する。

ABSTRACT

We propose a multi-explanation graph attention network (MEGAN). Unlike existing graph explainability methods, our network can produce node and edge attributional explanations along multiple channels, the number of which is independent of task specifications. This proves crucial to improve the interpretability of graph regression predictions, as explanations can be split into positive and negative evidence w.r.t to a reference value. Additionally, our attention-based network is fully differentiable and explanations can actively be trained in an explanation-supervised manner. We first validate our model on a synthetic graph regression dataset with known ground-truth explanations. Our network outperforms existing baseline explainability methods for the single- as well as the multi-explanation case, achieving near-perfect explanation accuracy during explanation supervision. Finally, we demonstrate our model's capabilities on multiple real-world datasets. We find that our model produces sparse high-fidelity explanations consistent with human intuition about those tasks.

研究の動機と目的

• グラフ回帰における単一帰属説明の限界を解決する。これは、予測に影響を与える相反する要因（例：陽性 vs. 陰性の機能的基団）を捉えることができない。
• 予測タスクとは独立して複数の説明チャネルを生成できるグラフニューラルネットワークを設計し、極性に配慮した解釈を可能にする。
• 説明に監視されたトレーニングを可能にする。モデルは、真の説明と一致する説明を生成するように学習する。
• 説明チャネルを共同トレーニングすることで、意図された解釈（陽性/陰性の影響）を反映させ、モデルの解釈可能性と忠実度を向上させる。
• 合成データおよび実世界のデータセット上でモデルを検証し、人間の直感と整合し、分子性質予測における科学的仮説を支持することを示す。

提案手法

• MEGANは、各ノードおよびエッジに対してK個の帰属説明を生成するマルチチャネルグラフアテンション機構を用いる。Kは予測タスクとは独立したハイパーパrameterである。
• モデルは二重損失関数でトレーニングされる。主な予測損失と、各説明マスクを用いた部分グラフ近似から導出される説明損失である。
• 説明共同トレーニングは、各チャネルがその意図された解釈（例：陽性または陰性の影響）に従って予測に忠実に寄与するように促進する。これは、そのチャネルのマスクのみを用いて代理の予測タスクを解くことで実現される。
• 説明マスクは微分可能であり、勾配ベース最適化によるエンドツーエンドトレーニングを可能にする。
• 説明チャネルとその意図された解釈との整合性を評価するためのFidelity*指標が導入された。
• アーキテクチャはTensorFlow/Kerasを用いたKGCNNで実装されており、グラフ分類および回帰タスクの両方をサポートする。

実験結果

リサーチクエスチョン

• RQ1 グラフニューラルネットワークは、予測タスクの出力次元とは独立して、グラフ回帰タスクに対して複数の極性に配慮した説明を生成できるか？
• RQ2 説明に監視されたトレーニングは、合成データ上で真の説明を学習するのにどの程度効果的か？
• RQ3 提案された説明共同トレーニング手順により、各説明チャネルがその意図された解釈（例：陽性対陰性の影響）と整合するよう保証できるか？
• RQ4 MEGANの説明は、実世界のグラフデータセットにおいても高忠実度であり、人間の直感と一貫性を保っているか？
• RQ5 MEGANは、事前の人間の直感がなくても、分子性質予測における科学的仮説の生成を支援できるか？

主な発見

• 真の説明が既知の合成グラフ回帰データセットにおいて、MEGANは説明に監視されたトレーニング中にほぼ完璧な説明精度を達成し、先行するベースライン手法を著しく上回った。
• MEGANは、分子性質予測タスクを含む複数の実世界データセットで、スパースで高忠実度の説明を生成し、人間の直感と整合した。
• 説明共同トレーニング手順により、Fidelity*指標による検証を通じて、各チャネルがその意図された解釈を的確に反映していることが確認された。
• 最初の合成実験において、説明に監視されたトレーニング中に予測性能が向上した。これは、説明監視が一部の設定において主タスクの性能を向上させうることを示唆している。
• 共通の人の直感が欠如する実世界の分子性質予測タスクにおいて、MEGANは以前に発表された仮説を支持し、新たな可能性のある説明的モチーフを提案した。
• モデルは説明漏洩や反転に対して頑健であったが、これらの稀な問題はハイパーパrameterチューニングおよびトレーニング後のFidelity*分析によって緩和された。