[논문 리뷰] Explain Graph Neural Networks to Understand Weighted Graph Features in Node Classification

Xiaoxiao Li, João Saúde|arXiv (Cornell University)|2020. 02. 02.

Advanced Graph Neural Networks참고 문헌 18인용 수 4

한 줄 요약

이 논문은 가중치가 부여되고 방향성이 있는 그래프에서 노드 분류 작업에 대해 그래프 신경망(GNN)의 결정을 설명하기 위한 새로운 프레임워크를 제안한다. 이는 유용한 구성 요소(에지 패턴)와 노드 특성의 중요도를 식별함으로써 이루어지며, 후행 해석 방법으로 MMI 마스크와 GGD를 도입하고, 구조적 기여와 특성 기반 기여를 분리하는 파이프라인을 제공한다. 이는 PubMed와 Bitcoin OTC와 같은 실질적 데이터셋에서 인간의 사고 방식과 일치하는 해석을 보여준다.

ABSTRACT

Real data collected from different applications that have additional topological structures and connection information are amenable to be represented as a weighted graph. Considering the node labeling problem, Graph Neural Networks (GNNs) is a powerful tool, which can mimic experts' decision on node labeling. GNNs combine node features, connection patterns, and graph structure by using a neural network to embed node information and pass it through edges in the graph. We want to identify the patterns in the input data used by the GNN model to make a decision and examine if the model works as we desire. However, due to the complex data representation and non-linear transformations, explaining decisions made by GNNs is challenging. In this work, we propose new graph features' explanation methods to identify the informative components and important node features. Besides, we propose a pipeline to identify the key factors used for node classification. We use four datasets (two synthetic and two real) to validate our methods. Our results demonstrate that our explanation approach can mimic data patterns used for node classification by human interpretation and disentangle different features in the graphs. Furthermore, our explanation methods can be used for understanding data, debugging GNN models, and examine model decisions.

연구 동기 및 목표

• 가중치가 있고 방향성이 있는 그래프에서 노드 및 에지 특성이 분류에 영향을 주는 상황에서 GNN 결정을 설명하는 데 도전하는 것.
• GNN 예측에 가장 영향을 주는 그래프 구성 요소(에지 및 노드 특성)를 식별하는 후행 해석 방법을 개발하는 것.
• GNN 분류에서 구조적 구조가 아니라 노드 특성이 주요 기여 요소인지 분리하는 파이프라인을 만드는 것.
• 실제 및 합성 데이터셋에서 일관성, 대비성, 희소성 지표를 사용해 해석 품질을 정량적으로 평가하는 것.
• 해석이 인간의 해석과 일치하며 디버깅, 신뢰 구축 및 특성 공학에 기여할 수 있음을 검증하는 것.

제안 방법

• 두 가지 해석 시각을 제안: 정보성 구성 요소 탐지(에지 패턴 중심)와 노드 특성 중요도(특성 관련성 중심).
• 에지 가중치와 노드 특성이 있는 가중치가 부여되고 방향성이 있는 그래프에 대해 CNN 시각화 기법(예: Grad-CAM, LRP)을 GNN에 적응 적용한다.
• 두 가지 해석 방법 도입: MMI 마스크(최대 의미를 갖는 부분그래프)와 GGD(기울기 기반 그래프 분리)를 통해 핵심 부분그래프와 특성 기여도를 식별한다.
• 거리 및 유사도 맵을 사용해 분류 결정에서 구조적 연결 패턴과 노드 특성의 역할을 분리한다.
• 일관성(내부 클래스 유사성), 대비성(다른 클래스 간 차이), 희소성(높은 중요도를 갖는 소수의 에지)을 평가 지표로 사용하는 파이프라인을 구현하여 해석 품질을 검증한다.
• GNN이 노드 분류 작업에 대해 훈련된 네 가지 데이터셋에 프레임워크를 적용: 두 개의 합성 데이터셋(SynComp, SynNode)과 두 개의 실질적 데이터셋(PubMed, Bitcoin OTC).

실험 결과

연구 질문

• RQ1 가중치가 있고 방향성이 있는 그래프에서 GNN의 노드 분류 결정에 가장 영향을 주는 에지 패턴과 노드 특성은 무엇인가?
• RQ2 해석 방법이 그래프의 구조와 특성 중요도에 대해 인간의 사고와 일치하는 구성 요소를 식별할 수 있는가?
• RQ3 다양한 그래프 유형에서 GNN 분류에서 구조적 구조가 아니라 노드 특성이 주요 기여 요소인가?
• RQ4 그래프 수준의 해석 가능성에서 해석 품질을 정량적으로 평가할 수 있는가?
• RQ5 분리된 해석은 노드 클래스 간 유사성과 구별 가능한 패턴을 드러낼 수 있는가?

주요 결과

• PubMed 데이터셋에서 GGD 방법은 일관성 점수 2.14와 대비성 2.07을 기록했으며, 희소성 0.049로 높은 품질의 희소 해석을 보였다.
• Bitcoin OTC 데이터셋에서 MMI 마스크 방법은 일관성 1.81과 대비성 2.45를 기록했으며, 희소성 0.132로 강력한 분류 성능을 보였다.
• 거리 맵 분석 결과, SynComp에서는 구조적 연결이 핵심 요소였고(내부 클래스 거리가 작음), SynNode와 PubMed에서는 노드 특성이 지배적인 것으로 나타났다.
• 유사도 맵 분석 결과, SynNode와 PubMed에서는 내부 클래스 간 유사성이 뚜렷하게 나타나, 이 데이터셋에서 노드 특성이 주요 분류 신호임을 확인했다.
• MMI 마스크가 탐지한 정보성 구성 요소는 인간이 정의한 규칙와 일치했다: 위험한 노드는 부정적 평가를 받고, 신뢰할 수 있는 노드는 높은 양의 평가를 받으며, 중립적 노드는 많은 수의 평가 1을 가졌다.
• 해석 파이프라인은 구조적 기여와 특성 기여를 성공적으로 분리했으며, GNN 결정의 디버깅과 투명성 향상에 기여했다.