[논문 리뷰] DT+GNN: A Fully Explainable Graph Neural Network using Decision Trees

Peter Müller, Lukas Faber외 2명|arXiv (Cornell University)|2022. 05. 26.

Explainable Artificial Intelligence (XAI)인용 수 5

한 줄 요약

DT+GNN는 기존 GNN 레이어를 훈련된 MLP에서 유도된 의사결정트리로 대체함으로써 메시지 전달 및 예측 로직의 엔드 투 엔드 해석 가능성을 제공하는 완전히 설명 가능한 그래프 신경망이다. 이는 실제 및 기준 데이터셋에서 경쟁 가능한 정확도를 달성하면서도 직관적이고 인간이 읽을 수 있는 의사결정 규칙과 웹 인터페이스를 통한 상호작용 가능한 설명을 제공한다.

ABSTRACT

We propose the fully explainable Decision Tree Graph Neural Network (DT+GNN) architecture. In contrast to existing black-box GNNs and post-hoc explanation methods, the reasoning of DT+GNN can be inspected at every step. To achieve this, we first construct a differentiable GNN layer, which uses a categorical state space for nodes and messages. This allows us to convert the trained MLPs in the GNN into decision trees. These trees are pruned using our newly proposed method to ensure they are small and easy to interpret. We can also use the decision trees to compute traditional explanations. We demonstrate on both real-world datasets and synthetic GNN explainability benchmarks that this architecture works as well as traditional GNNs. Furthermore, we leverage the explainability of DT+GNNs to find interesting insights into many of these datasets, with some surprising results. We also provide an interactive web tool to inspect DT+GNN's decision making.

연구 동기 및 목표

• 모델의 모든 결정 단계를 직접 점검할 수 있도록 하여 블랙박스 GNN의 내재된 해석 불가능성 문제를 해결한다.
• 구조화된 의사결정 규칙을 통해 입력 특징과 그래프 구조가 예측에 어떻게 기여하는지 완전한 추적성을 확보한다.
• 예측 성능을 손상시키지 않은 채 훈련된 GNN을 압축된, 인간이 읽을 수 있는 의사결정트리로 변환하는 방법을 개발한다.
• 의사결정트리를 통한 전역적 모델 설명과 노드 중요도 히트맵을 통한 국소적 설명을 동시에 제공한다.
• 모델의 투명성 덕분에 기존 GNN 설명 벤치마크의 결함을 식별하고 진단한다.

제안 방법

• 범주형 상태 및 메시지 공간을 갖는 '석기 시대 모델' 기반의 미분 가능 GNN 레이어(Diff-DT+GNN)를 도입하여 이산적이고 해석 가능한 메시지 전달을 가능하게 한다.
• 메시지 전달 레이어에 MLP를 사용하여 GNN을 경사 하강법으로 훈련한 후, 새로운 트리 변환 방법을 통해 각 MLP를 의사결정트리로 변환한다.
• 정확도를 유지하면서도 트리 크기를 줄이는 집합적 정제를 적용하여 해석 가능성과 모델의 압축성을 향상시킨다.
• 의사결정트리에서 기존 GNN 설명(예: 노드 중요도 히트맵)을 추출하여 전역 및 국소적 해석 가능성을 지원한다.
• 의사결정트리 구조를 활용해 추론 경로를 재구성하여 사용자가 각 예측이 어떤 식으로 계층적으로 도출되었는지 단계별로 추적할 수 있도록 한다.
• 실제 및 합성 데이터셋에서 DT+GNN의 의사결정 과정을 시각화하고 탐색할 수 있는 상호작용 가능한 웹 도구를 구현한다.

실험 결과

연구 질문

• RQ1 학습된 구성 요소를 의사결정트리로 대체함으로써 GNN 아키텍처를 경쟁력 있는 성능를 유지하면서도 완전히 해석 가능하게 만들 수 있는가?
• RQ2 제안된 트리 변환 및 정제 방법이 정확도 손실 없이 모델 복잡도를 줄이는 데 얼마나 효과적인가?
• RQ3 DT+GNN은 기존 GNN 설명 벤치마크의 숨겨진 편향이나 결함(예: 음성 클래스에 대해 잘못된 설명)을 드러낼 수 있는가?
• RQ4 GNN에서 유도된 의사결정트리가 실제 그래프 데이터셋의 의미 있는 구조적 통찰을 얼마나 잘 드러낼 수 있는가?
• RQ5 전통적 GNN의 의사결정 규칙과 비교했을 때, DT+GNN의 의사결정 규칙은 해석 가능성과 예측 정밀도 측면에서 얼마나 우수한가?

주요 결과

• DT+GNN는 PROTEINS, MUTAG, BA-2Motifs와 같은 실제 그래프 데이터셋에서 표준 GNN과 경쟁 가능한 분류 정확도를 달성한다.
• 모델의 최종 레이어 의사결정 규칙은 매우 해석 가능하다. 예를 들어 PROTEINS에서 모델은 특정 화학 구조를 세는 것으로만 효소를 분류하며, 이는 메시지 전달보다 세는 방식이 더 효과적일 수 있음을 이전 연구 결과와 일치시킨다.
• BA-2Motifs 데이터셋에서 DT+GNN는 집 구조의 노드를 정확히 식별하지만, 사이클 그래프에 대해서는 오답 설명을 내보내는데, 이는 편향 항목에 의존하기 때문이며, 이는 기존 설명 벤치마크의 결함을 드러낸다.
• Tree-Cycle 데이터셋에서 DT+GNN는 도우너 노드를 통해 사이클 노드를 식별하지만, 설명에서는 먼 거리의 노드를 강조하여 설명 방법의 과잉 지정된 진짜값 문제를 드러낸다.
• MUTAG에서 논문은 $NO_2$ 서브그래프가 유효한 설명이 아니라는 점을 밝히며(모든 그래프에 존재하기 때문), 89% 정확도를 달성하는 단순한 차수 세기 규칙을 제안하여 올바른 대안을 제시한다.
• 제안된 정제 방법은 성능 저하 없이 의사결정트리 크기를 크게 줄여 모델의 해석 가능성과 효율성을 향상시킨다.