[논문 리뷰] CF-GNNExplainer: Counterfactual Explanations for Graph Neural Networks

Ana Lučić, Maartje ter Hoeve외 3명|UvA-DARE (University of Amsterdam)|2021. 02. 05.

Explainable Artificial Intelligence (XAI)인용 수 39

한 줄 요약

CF-GNNExplainer는 노드의 로컬 서브그래프에서 간선을 제거하여 예측이 바뀔 때까지 최소한의 counterfactual 설명을 생성하고, 아주 적은 수의 간선 삭제로도 높은 정확도를 달성한다.

ABSTRACT

Given the increasing promise of graph neural networks (GNNs) in real-world applications, several methods have been developed for explaining their predictions. Existing methods for interpreting predictions from GNNs have primarily focused on generating subgraphs that are especially relevant for a particular prediction. However, such methods are not counterfactual (CF) in nature: given a prediction, we want to understand how the prediction can be changed in order to achieve an alternative outcome. In this work, we propose a method for generating CF explanations for GNNs: the minimal perturbation to the input (graph) data such that the prediction changes. Using only edge deletions, we find that our method, CF-GNNExplainer, can generate CF explanations for the majority of instances across three widely used datasets for GNN explanations, while removing less than 3 edges on average, with at least 94\% accuracy. This indicates that CF-GNNExplainer primarily removes edges that are crucial for the original predictions, resulting in minimal CF explanations.

연구 동기 및 목표

• GNN의 인스턴스 수준에서 counterfactual 설명 문제를 형식화한다.
• CF-GNNExplainer를 제안하여 최소한의 counterfactual 간섭(edge perturbation)을 자동으로 생성한다.
• CF-GNNExplainer가 여러 데이터세트에서 작은 섭동으로도 신뢰할 수 있는 counterfactual을 제공함을 증명한다.

제안 방법

• 모델-무관 CF 설명 프레임워크로, 학습 가능한 희소 마스크 P를 통해 인접 하위 행렬 A_v를 섭동하여 Ā_v = P ⊙ A_v를 얻는다.
• P를 사용해 A_v를 섭동하는 counterfactual 모델 g를 정의하되 GNN 가중치는 고정된 상태로 유지하여 CF 예제를 생성할 수 있도록 한다.
• 최소한의 섭동을 보장하기 위해 예측 변화 목표 L_pred와 거리 목표 L_dist를 결합한 손실을 최적화하고, 중간 실수값 P에 대해 그래디언트 기반 업데이트를 수행한 뒤 이 값을 이진값으로 임계화한다.
• illustrative f로는 1계층 GCN을 사용하고, forward 패스에 섭동된 인접성을 반영하도록 g(A_v,X_v,W;P)를 유도한다.
• 예측을 뒤집는 최소한의 섭동을 점진적으로 탐색하고, 최선의 (가장 작은) 섭동 Δ_v^*를 추적한다.

실험 결과

연구 질문

• RQ1 그래프 구조만을 섭동함으로써 GNN 예측에 대해 자동으로 최소하고 실행 가능한 counterfactual 설명을 생성할 수 있는가?
• RQ2 주어진 노드에 대해 예측을 바꾸기에 충분한 간선의 perturbation은 얼마나 작은가?
• RQ3 노드의 로컬 서브그래프에서의 간선 삭제가 다양한 그래프 데이터세트에서 정확하고 신뢰할 수 있는 counterfactual을 제공하는가?

주요 결과

• CF-GNNExplainer는 세 데이터세트에서 모티프 노드에 대해 적어도 94%의 정확도로 counterfactual 설명을 달성한다.
• 평균적으로 CF-GNNExplainer는 counterfactual을 얻기 위해 3개 미만의 간선을 제거하므로 설명이 매우 최소화된다.
• CF-GNNExplainer는 설명 크기와 희소성 면에서 기저 방법(random, 1-hop, rm-1hop)보다 우수한 성능을 보이면서도 높은 충실도와 정확성을 유지한다.
• GNNExplainer와 비교하여, CF-GNNExplainer는 자동으로 CF 설명을 찾고(고정된 S가 없음) 데이터세트 전반에 걸쳐 더 높은 충실도와 정확성을 달성한다.