[논문 리뷰] GISExplainer: On Explainability of Graph Neural Networks via Game-theoretic Interaction Subgraphs

Xingping Xian, Jing Liu외 5명|arXiv (Cornell University)|2024. 09. 24.

Scientific Computing and Data ManagementDecision Sciences인용 수 3

한 줄 요약

이 논문은 그래프 신경망(GNNs)에 대한 게임 이론적 설명 방법인 GraphGI를 제안한다. 이 방법은 간선 간의 상호작용 강도가 가장 높은 부분그래프를 식별하기 위해 셰플리 기반 게임 이론적 상호작용 값을 사용하여 반복적인 간선 선택을 이끌어낸다. 기존 최고 수준의 기준들보다 뛰어난 충실도와 희소성 성능을 달성한다. 이는 노드 중심 또는 독립적인 특성 기여도에 의존하는 것이 아니라 간선 수준의 상호작용을 모델링함으로써 달성된다.

ABSTRACT

Explainability is crucial for the application of black-box Graph Neural Networks (GNNs) in critical fields such as healthcare, finance, cybersecurity, and more. Various feature attribution methods, especially the perturbation-based methods, have been proposed to indicate how much each node/edge contributes to the model predictions. However, these methods fail to generate connected explanatory subgraphs that consider the causal interaction between edges within different coalition scales, which will result in unfaithful explanations. In our study, we propose GISExplainer, a novel game-theoretic interaction based explanation method that uncovers what the underlying GNNs have learned for node classification by discovering human-interpretable causal explanatory subgraphs. First, GISExplainer defines a causal attribution mechanism that considers the game-theoretic interaction of multi-granularity coalitions in candidate explanatory subgraph to quantify the causal effect of an edge on the prediction. Second, GISExplainer assumes that the coalitions with negative effects on the predictions are also significant for model interpretation, and the contribution of the computation graph stems from the combined influence of both positive and negative interactions within the coalitions. Then, GISExplainer regards the explanation task as a sequential decision process, in which a salient edges is successively selected and connected to the previously selected subgraph based on its causal effect to form an explanatory subgraph, ultimately striving for better explanations. Additionally, an efficiency optimization scheme is proposed for the causal attribution mechanism through coalition sampling. Extensive experiments demonstrate that GISExplainer achieves better performance than state-of-the-art approaches w.r.t. two quantitative metrics: Fidelity and Sparsity.

연구 동기 및 목표

• 기존 GNN 설명 방법들이 특성 간의 상호작용을 무시하고 특성을 상호 독립적으로 취급하는 한계를 해결하기 위해.
• 간선 간의 강력한 협력적 상호작용을 반영하는 부분그래프를 식별하여 모델의 해석 가능성 향상시키기 위해.
• 실세계 그래프에 스케일링 가능한 효율적인 게임 이론적 상호작용 값 계산 프레임워크 개발하기 위해.
• GNN의 수신 영역 내에서 간선 수준의 상호작용을 모델링하여 설명의 충실도와 희소성 향상시키기 위해.

제안 방법

• GraphGI는 간선을 플레이어로 삼고, 그들의 집단 기여도를 게임 이론적 상호작용 값으로 측정함으로써 GNN 설명을 협력 게임으로 공식화한다.
• 현재 협력 집단의 상호작용 강도를 최대화하는 간선을 선택하여 점진적으로 설명 부분그래프를 구축한다.
• 공정한 협력 효과 기여도를 보장하기 위해 셰플리 값과 그 확장형을 사용하여 상호작용 강도를 계산한다.
• 계산 비용을 줄이기 위해 셰플리 값과 상호작용 값을 근사하기 위해 몬테카를로 샘플링을 적용한다.
• 예측 대상의 L-호프 이웃 영역에 제약을 두어 GNN 메시지 전달 메커니즘과 일치시킨다.
• 희소하지만 높은 상호작용 강도를 가진 간선 집합을 우선시하며, 노드 기반 하위그래프보다 단일 방향 간선을 선호한다.

실험 결과

연구 질문

• RQ1 GNN에서 간선 수준의 상호작용을 효과적으로 모델링하여 설명의 충실도를 향상시킬 수 있는가?
• RQ2 GNN 설명에서 간선 간의 협력적 상호작용을 모델링하는 것과 독립적인 특성 기여도를 취하는 것 사이에 어떤 차이가 있는가?
• RQ3 게임 이론적 상호작용 값은 GNN 설명의 희소성과 해석 가능성에 어느 정도 향상시킬 수 있는가?
• RQ4 효율적인 근사 기법은 상호작용 기반 설명에서 계산 비용을 줄이면서도 높은 정확도를 유지할 수 있는가?

주요 결과

• GraphGI는 합성 및 실세계 데이터셋에서 모두 기존 최고 수준의 기준들인 SubgraphX, PGExplainer 등과 비교해 가장 높은 충실도와 희소성을 확보했다.
• BA-shapes와 Tree-cycles 데이터셋에서, GIN 모델 하에서 GraphGI는 최고의 충실도와 희소성을 기록했으며, 다양한 그래프 구조에서의 강건성을 입증했다.
• 실세계 데이터셋인 Cora와 CiteSeer에서도 GraphGI는 높은 희소성 수준에서도 뛰어난 성능을 유지했으며, 핵심 상호작용 부분그래프를 효과적으로 식별했다.
• 간선 중심의 상호작용 기반 선택 전략 덕분에 SubgraphX와 PGExplainer보다 더 희소한 설명을 생성했다.
• 몬테카를로 샘플링의 사용으로 계산 시간이 크게 감소했으며, 설명 품질에 영향을 주지 않아 더 큰 그래프에 대한 확장성 확보에 기여했다.