[논문 리뷰] Explainability in Graph Neural Networks: A Taxonomic Survey

Hao Yuan, Haiyang Yu외 2명|arXiv (Cornell University)|2020. 12. 31.

Advanced Graph Neural Networks인용 수 94

한 줄 요약

이 연구는 GNN 설명가능성 방법의 통일된 분류를 제시하고, 표준화된 테스트베드를 도입하며, 그래프 신경망의 인스턴스 수준 및 모델 수준 설명을 비교하는 실험을 수행한다.

ABSTRACT

Deep learning methods are achieving ever-increasing performance on many artificial intelligence tasks. A major limitation of deep models is that they are not amenable to interpretability. This limitation can be circumvented by developing post hoc techniques to explain the predictions, giving rise to the area of explainability. Recently, explainability of deep models on images and texts has achieved significant progress. In the area of graph data, graph neural networks (GNNs) and their explainability are experiencing rapid developments. However, there is neither a unified treatment of GNN explainability methods, nor a standard benchmark and testbed for evaluations. In this survey, we provide a unified and taxonomic view of current GNN explainability methods. Our unified and taxonomic treatments of this subject shed lights on the commonalities and differences of existing methods and set the stage for further methodological developments. To facilitate evaluations, we generate a set of benchmark graph datasets specifically for GNN explainability. We summarize current datasets and metrics for evaluating GNN explainability. Altogether, this work provides a unified methodological treatment of GNN explainability and a standardized testbed for evaluations.

연구 동기 및 목표

• GNN 설명 기법에 대한 포괄적이고 통일된 검토를 제공한다.
• 인스턴스 수준 및 모델 수준 설명을 분류하는 분류 체계 제안.
• 데이터셋, 평가 지표, 그리고 GNN 설명 가능성 평가를 위한 오픈 소스 라이브러리를 도입한다.
• 여러 설명 가능성 접근법의 성능을 비교 및 분석하기 위한 실험을 수행한다.

제안 방법

• GNN에 대한 인스턴스 수준 및 모델 수준 설명의 이중 분류 체계를 개발한다.
• 인스턴스 수준 설명에서 방법들을 gradient/특성 기반, 섭동 기반, 분해, 대리(대체) 접근으로 분류한다.
• 설명은 현재 XGNN으로 대표되는 모델 수준 설명을 조사하며, 설명을 위한 그래프 생성에 초점을 둔다.
• GNN 설명 가능성에 대한 표준화된 테스트베드를 제안한다. 데이터셋, 일반 알고리즘, 평가 지표 포함.
• 각 방법의 방법론, 장점, 한계, 차이점에 대한 비판적 분석을 제공한다.

실험 결과

연구 질문

• RQ1 GNN 설명 가능성 방법의 주요 범주와 하위 범주는 무엇인가?
• RQ2 인스턴스 수준 및 모델 수준 설명 기법은 목표와 산출물에서 어떻게 다른가?
• RQ3 GNN 설명을 평가하기에 적합한 데이터셋과 평가 지표는 무엇이며 한계는 무엇인가?
• RQ4 노드, 엣지, 그래프 수준 예측과 같은 과제에서 서로 다른 GNN 설명 방법은 실제로 어떻게 비교되는가?

주요 결과

• 통일된 분류 체계는 인스턴스 수준 설명에 대해 gradient/특성 기반, 섭동 기반, 분해, 대리 설명 방법 간의 구분을 명확하게 한다.
• 모델 수준 설명은 덜 연구되었고, 설문 시점에 XGNN이 주요 예였다.
• 본 논문은 GNN 설명 가능성 방법의 평가를 표준화하기 위한 데이터셋, 알고리즘, 평가 지표를 포함하는 공개 테스트베드를 제공한다.
• 오픈 소스 라이브러리와 다양한 설명 기법을 비교하고 향후 방법론 개발을 가이드하기 위한 포괄적 실험이 도입된다.