[논문 리뷰] GCExplainer: Human-in-the-Loop Concept-based Explanations for Graph Neural Networks

Lucie Charlotte Magister, Dmitry Kazhdan외 2명|arXiv (Cornell University)|2021. 07. 25.

Explainable Artificial Intelligence (XAI)참고 문헌 32인용 수 14

한 줄 요약

GCExplainer는 사용자 정보 기반 개념 발견을 활용하여 인간이 참여하는, 비지도 학습 기반의 그래프 신경망(GNNs)에서 전역적이고 개념 기반의 해석을 발견하는 방법을 제안한다. 이는 GNNExplainer보다 더 해석 가능하고 품질이 높으며 전역적으로 적용 가능한 해석을 생성하며, 최대 완전성 점수는 1.0, 다양한 데이터셋 평균은 0.753을 기록한다.

ABSTRACT

While graph neural networks (GNNs) have been shown to perform well on graph-based data from a variety of fields, they suffer from a lack of transparency and accountability, which hinders trust and consequently the deployment of such models in high-stake and safety-critical scenarios. Even though recent research has investigated methods for explaining GNNs, these methods are limited to single-instance explanations, also known as local explanations. Motivated by the aim of providing global explanations, we adapt the well-known Automated Concept-based Explanation approach (Ghorbani et al., 2019) to GNN node and graph classification, and propose GCExplainer. GCExplainer is an unsupervised approach for post-hoc discovery and extraction of global concept-based explanations for GNNs, which puts the human in the loop. We demonstrate the success of our technique on five node classification datasets and two graph classification datasets, showing that we are able to discover and extract high-quality concept representations by putting the human in the loop. We achieve a maximum completeness score of 1 and an average completeness score of 0.753 across the datasets. Finally, we show that the concept-based explanations provide an improved insight into the datasets and GNN models compared to the state-of-the-art explanations produced by GNNExplainer (Ying et al., 2019).

연구 동기 및 목표

• 안전 임계 응용 분야에서의 투명성과 책임성 부족 문제 해결.
• 국소 해석(예: GNNExplainer)의 한계를 극복하여 개별 인스턴스에 국한되고 일반화되지 않는 문제 해결.
• 노드 또는 그래프 전반에 걸쳐 반복되는 구조적 및 특징 패턴을 포괄하는 전역적 개념 기반 해석 제공.
• 도메인 지식과 관련된 해석 가능성과 관련성을 확보하기 위해 인간 전문 지식을 개념 발견에 통합.
• 다양한 GNN 기반 학습 작업과 데이터셋에 적용 가능한 일반화 가능한 프레임워크 개발.

제안 방법

• 후행 해석을 위해 GNNs에 맞게 자동 개념 기반 해석(ACE) 프레임워크를 적응.
• GNN 활성화 패턴의 비지도 군집화를 통해 후보 개념 표현 식별.
• 사용자가 개념을 레이블링하고 개선할 수 있도록 인간 피드백 통합으로 해석 가능성 향상.
• 핵심 노드 주변의 개념 구조를 시각화하고 검증하기 위해 이웃 확장(n-hop) 적용.
• 모델 예측을 얼마나 잘 설명하는지 평가하기 위해 완전성 지표 사용.
• 다양한 그래프 간의 개념 정렬을 통해 예측 작업에 관련된 일관된 전역 모티프 추출.

실험 결과

연구 질문

• RQ1 인간이 참여하는 개념 기반 발견이 GNN 예측에서 의미 있고 전역적으로 해석 가능한 패턴을 추출할 수 있는가?
• RQ2 개념 기반 해석의 품질이 국소 해석(GNNExplainer 등)과 비교해 해석 가능성과 완전성 측면에서 어떻게 다른가?
• RQ3 비지도 개념 발견이 도메인 지식과 일치하는 구조적 모티프를 얼마나 잘 식별할 수 있는가?
• RQ4 노드 및 그래프 분류 작업에서 다수의 그래프에 걸쳐 일관되고 재사용 가능한 개념을 얼마나 효과적으로 식별할 수 있는가?
• RQ5 사용자 피드백이 추출된 개념의 품질과 관련성에 어떤 영향을 미치는가?

주요 결과

• GCExplainer는 다섯 개의 노드 분류 및 두 개의 그래프 분류 데이터셋에서 최대 완전성 점수 1.0, 평균 완전성 점수 0.753 기록.
• 분자 그래프에서 고리 구조와 소셜 네트워크에서 사용자-응답 모티프와 같은 고품질이고 해석 가능한 개념을 성공적으로 발견.
• 개념 기반 해석은 GNNExplainer의 국소 서브그래프 해석보다 모델 행동에 대한 더 나은 전역적 통찰 제공.
• 다양한 그래프 간의 구조적 패턴 탐색을 가능하게 하여 C–H 클러스터 및 스타형 상호작용 패턴과 같은 반복적인 모티프 드러냄.
• 사용자 정보 기반 개선을 통해 개념의 순도와 관련성이 향상되며, 특히 REDDIT-BINARY와 같은 복잡한 데이터셋에서 두드러짐.
• 노드 분류에서 개념 발견이 더 효과적이지만, 그래프 분류 작업에서도 더 높은 복잡도에도 불구하고 여전히 가치 있는 전역적 통찰 제공.