[論文レビュー] DT+GNN: A Fully Explainable Graph Neural Network using Decision Trees

Peter Müller, Lukas Faber+2 more|arXiv (Cornell University)|May 26, 2022

Explainable Artificial Intelligence (XAI)被引用数 5

ひとこと要約

DT+GNN は、従来の GNN レイヤーを訓練済みの MLP から導出した意思決定木に置き換えることで、メッセージパッシングおよび予測論理のエンドツーエンドの解釈可能性を実現する完全に説明可能なグラフニューラルネットワークです。実世界およびベンチマークデータセットにおいて競争力ある精度を達成するとともに、直感的で人間が読みやすい意思決定ルールと、Web インターフェースを介したインタラクティブな説明を提供します。

ABSTRACT

We propose the fully explainable Decision Tree Graph Neural Network (DT+GNN) architecture. In contrast to existing black-box GNNs and post-hoc explanation methods, the reasoning of DT+GNN can be inspected at every step. To achieve this, we first construct a differentiable GNN layer, which uses a categorical state space for nodes and messages. This allows us to convert the trained MLPs in the GNN into decision trees. These trees are pruned using our newly proposed method to ensure they are small and easy to interpret. We can also use the decision trees to compute traditional explanations. We demonstrate on both real-world datasets and synthetic GNN explainability benchmarks that this architecture works as well as traditional GNNs. Furthermore, we leverage the explainability of DT+GNNs to find interesting insights into many of these datasets, with some surprising results. We also provide an interactive web tool to inspect DT+GNN's decision making.

研究の動機と目的

• ブラックボックス GNN における内在的な解釈可能性の欠如に対処するため、すべての意思決定ステップが点検可能なモデルを設計すること。
• 入力特徴量とグラフ構造が予測にどのように寄与するかを、構造的な意思決定ルールを通じて完全に追跡可能にする。
• 訓練済みの GNN を、性能を損なわずに予測性能を維持するコンactな人間が読める意思決定木に変換する手法を開発すること。
• GNN 予測のためのグローバルなモデル説明（意思決定木を用いて）とローカルな説明（ノードの重要度ヒートマップを用いて）を両方提供すること。
• モデルの透明性を活用して、既存の GNN 説明ベンチマークにおける欠陥やバイアスを特定・診断すること。

提案手法

• カテゴリカルな状態とメッセージ空間を持つ「石の時代モデル」に基づく微分可能 GNN レイヤー（Diff-DT+GNN）を導入し、離散的で解釈可能なメッセージパッシングを可能にする。
• メッセージパッシングレイヤーに MLP を使用して GNN を勾配降下法で訓練した後、独自の木変換手法を用いて各 MLP を意思決定木に変換する。
• 精度を維持したまま木のサイズを削減するための集合的プルーニングを適用し、解釈可能性とモデルのコンactさを向上させる。
• 意思決定木から従来の GNN 説明（例：ノードの重要度ヒートマップ）を抽出し、グローバルおよびローカルな解釈可能性を支援する。
• 意思決定木の構造を用いて推論経路を再構築し、ユーザーが各予測がどのようにレイヤー単位で生成されたかを追跡できるようにする。
• 実際のデータセットおよび合成データセット上で DT+GNN の意思決定プロセスを可視化・探索可能なインタラクティブな Web ツールをデプロイする。

実験結果

リサーチクエスチョン

• RQ1 学習されたコンponents を意思決定木に置き換えることで、GNN アーキテクチャを競争力のある性能を維持したまま完全に解釈可能にすることができるか？
• RQ2 提案された木変換およびプルーニング手法は、精度の損失なしにモデルの複雑さをどれほど効果的に低減できるか？
• RQ3 DT+GNN は、既存の GNN 説明ベンチマークにおける隠れたバイアスや欠陥（例：負例に対して誤った説明）を特定できるか？
• RQ4 GNN から導出された意思決定木は、実世界のグラフデータセットに対して意味のある構造的インサイトをどれほど明らかにできるか？
• RQ5 従来の GNN と比較して、DT+GNN の意思決定ルールは解釈可能性と予測の忠実度の両面で優れているか？

主な発見

• DT+GNN は、PROTEINS、MUTAG、BA-2Motifs などの実世界データセットにおいて、標準的な GNN と同等の分類精度を達成している。
• モデルの最終レイヤーの意思決定ルールは非常に解釈可能である — 例えば PROTEINS では、特定の化学構造の数え上げに基づいて酵素を分類しており、メッセージパッシングよりも数え上げが優れているという先行研究の結果を裏付けている。
• BA-2Motifs データセットでは、ハウス構造のノードを正しく特定しているが、サイクルグラフに対してはバイアス項に依存しているため誤った説明を出力しており、既存の説明ベンチマークにおける欠陥を暴露している。
• Tree-Cycle データセットでは、DT+GNN は次数 2 のノードを用いてサイクルノードを識別しているが、説明では遠く離れたノードを強調しており、説明手法における余分な正例の問題を明らかにしている。
• MUTAG では、$NO_2$ のサブグラフが有効な説明でない（すべてのグラフに存在するため）ことが同定され、単純な次数カウントルールが 89% の精度を達成する代替手段として提案されている。
• 提案されたプルーニング手法は、性能の劣化を伴わずに意思決定木のサイズを顕著に削減し、モデルの解釈可能性と効率性を向上させている。