[論文レビュー] Encoding Concepts in Graph Neural Networks

Lucie Charlotte Magister, Pietro Barbiero+6 more|arXiv (Cornell University)|Jul 27, 2022

Advanced Graph Neural Networks被引用数 5

ひとこと要約

本論文は、GNNの潜在空間におけるクラスタリングを通じて人間が理解可能な概念を発見し、それらを予測のガイドとして用いることで、設計段階から説明可能であるGNNを実現する微分可能でエンドツーエンドのフレームワーク、Concept Encoder Module (CEM) を導入する。この手法は、概念の質、モデルの精度、人間の干渉支援の観点で最先端の性能を達成し、予測性能を損なうことなく信頼性と解釈可能性を著しく向上させる。

ABSTRACT

The opaque reasoning of Graph Neural Networks induces a lack of human trust. Existing graph network explainers attempt to address this issue by providing post-hoc explanations, however, they fail to make the model itself more interpretable. To fill this gap, we introduce the Concept Encoder Module, the first differentiable concept-discovery approach for graph networks. The proposed approach makes graph networks explainable by design by first discovering graph concepts and then using these to solve the task. Our results demonstrate that this approach allows graph networks to: (i) attain model accuracy comparable with their equivalent vanilla versions, (ii) discover meaningful concepts that achieve high concept completeness and purity scores, (iii) provide high-quality concept-based logic explanations for their prediction, and (iv) support effective interventions at test time: these can increase human trust as well as significantly improve model performance.

研究の動機と目的

• GNNの透明性の欠如による人間の信頼の欠如を是正すること。
• モデルを本質的に解釈可能にできない後処理型の説明手法の限界を克服すること。
• 訓練中に意味のある、人間が理解可能なグラフ概念を発見する微分可能でエンドツーエンドのフレームワークを開発すること。
• 概念レベルでの効果的な人間の干渉を可能にし、バイアスの是正とモデル性能の向上を図ること。
• 予測精度を維持または向上させつつ、高品質な論理ベースの概念説明を達成すること。

提案手法

• Concept Encoder Module (CEM) は、GNNアーキテクチャ内に微分可能なクラスタリング機構を統合し、訓練中に直接的に概念を発見する。
• 事前に訓練されたGNNのノード埋め込みに対してk-Meansクラスタリングを実行し、潜在空間における概念プロトタイプを同定する。
• ノードはそのクラスタ中心への近接度に基づいて概念ラベルに割り当てられ、概念に配慮した表現が形成される。
• モデルは、これらの発見された概念を、微分可能で解釈可能な分類器（例：論理ベースまたは記号的ヘッド）の入力として用い、最終的な予測を行う。
• パイプライン全体がエンドツーエンドで微分可能であり、クラスタリングおよび分類部へ勾配が流れ込む。
• アプローチは動的に最適な概念数を決定し、クラスタ数のハイパーパrameterの手動チューニングを回避する。

実験結果

リサーチクエスチョン

• RQ1 微分可能でエンドツーエンドの手法は、GNNの潜在空間に高品質で人間が理解可能な概念を発見できるか？
• RQ2 発見された概念を予測ヘッドに統合することで、通常のGNNと比較してモデル精度が維持または向上するか？
• RQ3 モデルは、意味的に意味のある、一貫性のある高純度・高完全性の概念を生成できるか？
• RQ4 概念レベルでの人間の干渉は、モデル性能と信頼性をどの程度向上できるか？
• RQ5 モデルは、発見された概念に基づいた正確で論理ベースの説明を提供できるか？

主な発見

• 提唱されたConcept Graph Networks (CGNs) は、ベンチマークデータセットにおいて、通常のGNNと同等のモデル精度を達成する。
• 発見された概念は高い純度スコアと完全性スコアを示しており、強い意味的整合性と優れた表現品質を示している。
• モデルは、発見された概念に基づいた高品質で解釈可能な論理的説明を生成し、人間の理解を向上させる。
• 概念レベルでの人間の干渉（例：概念重みの変更）は、モデル性能の向上とバイアスの低減に顕著な効果をもたらす。
• この手法は、クラスタ数のハイパーパrameterの手動チューニングを必要とせず、概念数を動的に決定する。
• 局所的でインスタンス固有の説明者とは異なり、全データ分布から学習することでスケーラブルなグローバルな説明を支援する。