[논문 리뷰] GNNExplainer: Generating Explanations for Graph Neural Networks

Rex Ying, Dylan Bourgeois외 3명|arXiv (Cornell University)|2019. 03. 10.

Explainable Artificial Intelligence (XAI)참고 문헌 61인용 수 692

한 줄 요약

GNNExplainer를 도입한 일반적이고 모델-비의존적 방법으로, GNN 예측을 설명하는 컴팩트한 부분 그래프 및 특징 하위집합을 생성하며, 예측과 부분그래프 분포 간의 상호정보를 최대화하는 최적화를 사용한다.

ABSTRACT

Graph Neural Networks (GNNs) are a powerful tool for machine learning on graphs.GNNs combine node feature information with the graph structure by recursively passing neural messages along edges of the input graph. However, incorporating both graph structure and feature information leads to complex models, and explaining predictions made by GNNs remains unsolved. Here we propose GNNExplainer, the first general, model-agnostic approach for providing interpretable explanations for predictions of any GNN-based model on any graph-based machine learning task. Given an instance, GNNExplainer identifies a compact subgraph structure and a small subset of node features that have a crucial role in GNN's prediction. Further, GNNExplainer can generate consistent and concise explanations for an entire class of instances. We formulate GNNExplainer as an optimization task that maximizes the mutual information between a GNN's prediction and distribution of possible subgraph structures. Experiments on synthetic and real-world graphs show that our approach can identify important graph structures as well as node features, and outperforms baselines by 17.1% on average. GNNExplainer provides a variety of benefits, from the ability to visualize semantically relevant structures to interpretability, to giving insights into errors of faulty GNNs.

연구 동기 및 목표

• 구조와 특징을 결합하는 그래프 신경망에서 해석 가능한 설명의 필요성을 동기 부여한다.
• 모든 GNN 기반 모델과 그래프 기반 작업에 대한 설명을 생성하기 위한 일반적이고 모델-비의존적인 프레임워크를 제안한다.
• 개별 예측과 전체 인스턴스 클래스에 영향을 주는 간결한 부분그래프와 관련 노드 특징을 식별한다.
• 합성 및 실제 그래프에서 접근법을 시연하고 기초 방법과 비교한다.
• 설명이 GNN의 시각화, 해석 및 디버깅에 도움이 됨을 보여준다.

제안 방법

• GNN 설명을 최적화 문제로 공식화한다.
• GNN의 예측과 가능한 부분그래프 구조 분포 간의 상호정보를 최대화한다.
• 예측 정보를 보존하는 간결한 부분그래프와 노드 특징의 작은 부분집합을 선택한다.
• 전체 인스턴스 클래스에 대해 일관된 설명 생성을 확장한다.
• 합성 및 실제 그래프에서 기초 방법과 비교 평가하고 설명 정확도를 정량화한다(최대 43.0% 향상).

실험 결과

연구 질문

• RQ1 주어진 인스턴스에 대해 GNN의 예측 결정을 보존하는 간결한 부분그래프를 어떻게 도출할 수 있는가?
• RQ2 주어진 그래프에서 GNN의 예측에 중요한 노드 특징은 무엇인가?
• RQ3 설명을 전체 인스턴스 클래스에 대해 일관되게 확장할 수 있는가?
• RQ4 합성 및 실제 그래프에서 GNNExplainer의 성능이 기초 설명 방법에 비해 어떤가?

주요 결과

• GNNExplainer는 예측을 좌우하는 중요한 부분그래프 구조와 노드 특징을 식별한다.
• 이 방법은 설명 정확도에서 대체 기초 방법보다 최대 43.0% 향상된다.
• 설명은 의미적으로 관련된 구조의 시각화를 제공하고, 잘못된 GNN에 대한 해석 가능성과 디버깅 인사이트를 제시한다.