[논문 리뷰] GStarX: Explaining Graph Neural Networks with Structure-Aware Cooperative Games

Shichang Zhang, Yozen Liu외 2명|arXiv (Cornell University)|2022. 01. 28.

Advanced Graph Neural Networks인용 수 11

한 줄 요약

GStarX는 협력 게임 이론의 Hamiache-Navarro (HN) 값을 사용하여 그래프 신경망(GNNs)에 대한 구조 인식 설명 방법을 제안한다. 이 방법은 메시지 전달 유사 협력 방식을 통해 노드 특성과 구조적 역할을 모두 반영한다. 화학 및 텍스트 그래프 데이터셋에서 설명의 정확도와 희소성 측면에서 Shapley 값 기반 기준선보다 뛰어나다.

ABSTRACT

Explaining machine learning models is an important and increasingly popular area of research interest. The Shapley value from game theory has been proposed as a prime approach to compute feature importance towards model predictions on images, text, tabular data, and recently graph neural networks (GNNs) on graphs. In this work, we revisit the appropriateness of the Shapley value for GNN explanation, where the task is to identify the most important subgraph and constituent nodes for GNN predictions. We claim that the Shapley value is a non-ideal choice for graph data because it is by definition not structure-aware. We propose a Graph Structure-aware eXplanation (GStarX) method to leverage the critical graph structure information to improve the explanation. Specifically, we define a scoring function based on a new structure-aware value from the cooperative game theory proposed by Hamiache and Navarro (HN). When used to score node importance, the HN value utilizes graph structures to attribute cooperation surplus between neighbor nodes, resembling message passing in GNNs, so that node importance scores reflect not only the node feature importance, but also the node structural roles. We demonstrate that GStarX produces qualitatively more intuitive explanations, and quantitatively improves explanation fidelity over strong baselines on chemical graph property prediction and text graph sentiment classification.

연구 동기 및 목표

• Shapley 값의 GNN 설명에서의 한계를 해결하기 위해, 이는 비구조 인식이며 그래프 구조를 활용하지 못한다는 점이다.
• 그래프 기계 학습에서 노드 중요도 평가를 위한 구조 인식 대안으로 Hamiache-Navarro (HN) 값을 제안하기 위해.
• HN 기반 평가가 GNN 예측에서 특성 기여와 구조적 기여를 더 잘 반영함을 입증하기 위해.
• GNN 메시지 전달 의미 체계와 HN 값을 통합한 실용적인 설명 방법인 GStarX를 개발하기 위해.
• 실제 그래프 데이터셋에서 GStarX의 우수성을 정량적 설명 정확도와 정성적 직관성 측면에서 검증하기 위해.

제안 방법

• 균일한 협동 집단 크기 대신 구조적 이웃에 기반해 수익 초과를 배분하는 HN 값 기반의 새로운 점수 함수 정의.
• 구조 인식 가중치를 사용해 메시지 전달 유사 방식으로 국소적 기여를 집계함으로써 노드 중요도를 계산.
• 상위-k HN 점수를 가진 노드에 의해 유도되는 부분 그래프로 설명을 구성하여 구조적 일관성 확보.
• HN 초과 배분 방식과 GNN 메시지 전달 방식의 유사성을 활용해 설명을 모델의 추론과 일치시킴.
• 대규모 그래프에 대응하기 위해 효율적 근사 기법을 구현하여 확장성 확보.
• 생성된 설명의 압축성과 해석 가능성 평가를 위해 엔트로피 기반 희소성 지표 사용.

실험 결과

연구 질문

• RQ1 Shapley 값이 비구조 인식이기 때문에 GNN 예측 설명에 있어 왜 열등한가?
• RQ2 그래프 구조를 협력 게임 이론적 설명 방법에 공식적으로 통합할 수 있는 방법은 무엇인가?
• RQ3 Shapley 값에 비해 HN 값이 특성과 구조적 역할을 모두 반영함으로써 노드 중요도를 얼마나 더 잘 반영하는가?
• RQ4 GStarX와 같은 구조 인식 설명 방법이 기존 기준선 대비 더 높은 정확도와 더 직관적인 부분 그래프 설명을 달성할 수 있는가?
• RQ5 GStarX가 생성한 설명의 희소성은 해석 가능성에 기여하는 이론적 기준 분포와 비교해 어떻게 되는가?

주요 결과

• GStarX는 화학 및 텍스트 그래프 데이터셋에서 SubgraphX와 GraphSVX를 포함한 강력한 기준선보다 유의미하게 높은 설명 정확도를 달성한다.
• GStarX의 엔트로피 기반 희소성 점수(2.13–2.45)는 Uniform(n)(3.0–3.5)보다 훨씬 낮고, Poisson(0.25*n)에 가까워 매우 압축되고 해석 가능한 설명임을 시사한다.
• MUTAG 데이터셋에서 GStarX는 희소성 점수 2.2434를 기록하여 Uniform(n)(2.8612)를 초월하고 이상적인 Poisson(0.25*n) 기준선에 가까워진다.
• GStarX의 HN 값 기반 설명은 국소적 초과 배분 덕분에 구조적으로 중요한 노드(예: -NO2 기능기의 질소 원자)를 더 잘 식별한다.
• 정성적 분석 결과 GStarX의 설명은 더 직관적이며, 분리된 또는 의미적으로 관련 없는 노드 집단(예: 'bad'가 없는 문장에서 'not'과 'good')을 정확히 배제한다.
• GStarX의 설명 생성 과정은 GNN 메시지 전달과 유사하게, 모두 이웃 집합을 통한 중요도 전파에 기반하므로 모델의 추론과 더 잘 일치한다.