[논문 리뷰] PGM-Explainer: Probabilistic Graphical Model Explanations for Graph Neural Networks

Minh N. Vu, My T. Thai|arXiv (Cornell University)|2020. 10. 12.

Explainable Artificial Intelligence (XAI)인용 수 92

한 줄 요약

PGM-Explainer는 예측을 근사하기 위해 베이지안 네트워크를 사용하는 GNN용 모델-독립적 해설기를 도입합니다. 이는 조건부 확률과 Markov-blanket 보장을 통해 특징 간 의존성을 포착합니다. 합성 데이터 및 실제 데이터셋에서 벤치마크 대비 우수한 설명을 보여줍니다.

ABSTRACT

In Graph Neural Networks (GNNs), the graph structure is incorporated into the learning of node representations. This complex structure makes explaining GNNs' predictions become much more challenging. In this paper, we propose PGM-Explainer, a Probabilistic Graphical Model (PGM) model-agnostic explainer for GNNs. Given a prediction to be explained, PGM-Explainer identifies crucial graph components and generates an explanation in form of a PGM approximating that prediction. Different from existing explainers for GNNs where the explanations are drawn from a set of linear functions of explained features, PGM-Explainer is able to demonstrate the dependencies of explained features in form of conditional probabilities. Our theoretical analysis shows that the PGM generated by PGM-Explainer includes the Markov-blanket of the target prediction, i.e. including all its statistical information. We also show that the explanation returned by PGM-Explainer contains the same set of independence statements in the perfect map. Our experiments on both synthetic and real-world datasets show that PGM-Explainer achieves better performance than existing explainers in many benchmark tasks.

연구 동기 및 목표

• 복잡한 그래프 구조를 고려한 GNN 예측에 대한 투명한 설명의 필요성을 제시합니다.
• 확률적 그래픽 모델을 사용하여 예측을 근사하는 모델-독립적 해설기를 제안합니다.
• 설명이 선형 기여를 넘어 설명된 특징 간의 의존성을 포착하도록 보장합니다.
• 생성된 PGM과 대상 예측의 Markov-blanket 사이의 이론적 보장을 제공합니다.
• 설명의 효과와 직관을 보여주기 위해 합성 및 실제 데이터 작업에서 실증적으로 평가합니다.

제안 방법

• 해설을 GNN의 대상 예측을 근사하는 베이지안 네트워크로 정의합니다.
• 입력 그래프를 변경하고 예측을 기록하여 샘플링된 데이터 세트를 구축하는 방식으로 데이터 생성을 사용합니다.
• 대상(target)을 포함하는 Markov-blanket으로 PGM을 제약하기 위해 쌍별 의존성 검사로 변수 선택을 수행합니다.
• BIC-스코어 기반 접근과 힐-클라이밍 최적화를 사용하여 PGM 구조와 매개변수를 학습합니다.
• 해석가능성을 높이기 위해 대상 노드를 리프(자식이 없는 상태)로 만드는 no-child 제약을 선택적으로 적용합니다.
• 완전한 매핑 아래 Markov-blanket 포함과 I-동등성을 보장하는 이론적 결과를 제공합니다.

실험 결과

연구 질문

• RQ1 확률적 그래픽 모델이 해석 가능성을 유지하면서 GNN의 대상 예측을 충실하게 근사할 수 있는가?
• RQ2 설명을 컴팩트한 Markov-blanket으로 제한하는 것이 대상 예측에 필요한 모든 정보를 포착하는가?
• RQ3 PGM 기반 해설기가 기존의 가산 특성 해설자와 정확성 및 해석 가능성 면에서 어떻게 비교되는가?
• RQ4 Markov-blanket 포함과 I-동등성에 관한 PGM-Explainer의 이론적 보장은 무엇인가?

주요 결과

• PGM-Explainer는 선형 기여 방법과 달리 그래프 구성요소 간의 비선형 의존성을 포착하는 설명을 제공합니다.
• 생성된 PGM이 대상 예측의 Markov-blanket을 포함하여 모든 통계 정보를 보존한다는 이론적 결과를 보입니다.
• 합성 및 실제 데이터셋에 대한 실험 결과 PGM-Explainer가 설명의 정확도/정밀도에서 SHAP 및 GNNExplainer를 종종 능가하는 것으로 나타났습니다.
• 노드 및 그래프 분류 작업에서 설명은 인근 노드와 모티프가 대상 예측에 어떻게 영향을 미치는지에 대한 직관적인 확률적 통찰을 제공합니다.