[논문 리뷰] Contrastive Graph Neural Network Explanation

Lukas Faber, Amin K. Moghaddam외 1명|arXiv (Cornell University)|2020. 10. 26.

Explainable Artificial Intelligence (XAI)참고 문헌 33인용 수 12

한 줄 요약

이 논문은 훈련 데이터 분포에 부합하는 그래프만을 사용하여 설명을 생성함으로써 분포 준수 설명(Distribution Compliant Explanation, DCE)을 보장하는 대trastive 그래프 신경망 설명 방법 CoGE를 제안한다. CoGE는 합성 CYCLIQ 데이터셋에서 기존 방법들인 GNNExplainer와 occlusion보다 최대 10% 높은 설명 정확도를 기록하며, 클리크 탐지 작업에서는 거의 완벽한 정확도(99%)를 달성한다. 또한 추론 연구를 통해 안정성을 확보한다.

ABSTRACT

Graph Neural Networks achieve remarkable results on problems with structured data but come as black-box predictors. Transferring existing explanation techniques, such as occlusion, fails as even removing a single node or edge can lead to drastic changes in the graph. The resulting graphs can differ from all training examples, causing model confusion and wrong explanations. Thus, we argue that explicability must use graphs compliant with the distribution underlying the training data. We coin this property Distribution Compliant Explanation (DCE) and present a novel Contrastive GNN Explanation (CoGE) technique following this paradigm. An experimental study supports the efficacy of CoGE.

연구 동기 및 목표

• 노드나 에지 제거 시 급격한 구조적 변화가 발생함으로써 그래프 신경망(GNNs)에서 오해를 불러일으키는 설명 문제를 해결하기 위해.
• 설명이 훈련 중에 관찰한 데이터 분포를 벗어나지 않도록 해야 하며, 이는 악성 공격와의 혼동을 방지하기 위함이다.
• 실제로 훈련 데이터 분포에 부합하는 그래프만을 사용하여 분포 준수 설명(DCE)을 준수하는 새로운 설명 방법 CoGE를 제안하기 위해.
• 합성 및 실제 그래프 데이터셋에서 기존 설명 기법들인 occlusion, 민감도 분석, GNNExplainer와의 비교를 통해 CoGE의 우수성을 실증적으로 검증하기 위해.

제안 방법

• CoGE는 입력 그래프가 동일 레이블을 가진 긍정적 그래프와 유사하고, 다른 레이블을 가진 부정적 그래프와는 다를 수 있도록 하기 위해 대비 학습 기반의 접근 방식을 사용한다.
• 입력 그래프와 기준 그래프의 노드 임베딩 분포 간 최적 운반(OT) 거리에 기반한 손실 함수를 정의함으로써, 구조적 중요도를 충실하게 표현하도록 유도한다.
• 세 가지 손실 항목을 최적화한다: 동일 레이블 그래프와의 유사도를 최대화하는 항($\mathcal{L}_{W}^{\approx}$), 다른 레이블 그래프와의 유사도를 최소화하는 항($\mathcal{L}_{W}^{\not\approx}$), 레이블 일관성을 강제하는 항($\mathcal{L}_{W}^{=}$).
• 학습된 대비 표현을 기반으로 엣지 중요도 점수를 계산함으로써 설명을 도출하며, 이는 입력 그래프를 부정적 대응물과 구분하는 데 기여하는 엣지에 집중한다.
• 기존 그래프의 구조를 수정하지 않기 때문에 분포 준수를 유지하고, 악성 공격 유사한 변형을 피할 수 있다.
• 사전 훈련된 GNN을 활용해 노드 임베딩을 추출하고, 이를 최적 운반을 통해 유사도를 계산함으로써 모델 인식 설명을 보장한다.

실험 결과

연구 질문

• RQ1 GNN용 설명 방법은 외부 분포의 그래프 수정으로 인한 오해를 초래하는 설명을 피할 수 있는가?
• RQ2 실제 훈련 그래프를 기반으로 한 대비 설명 접근 방식은 occlusion 및 GNNExplainer와 같은 기존 방법들에 비해 정확도와 내구성 측면에서 어떻게 비교되는가?
• RQ3 분포 준수를 강제함으로써 그래프 분류 작업에서 설명 품질이 얼마나 향상되는가?
• RQ4 대비 손실 함수의 각 구성 요소가 최종 설명 성능에 기여하는 정도는 어떠한가?
• RQ5 CoGE는 사이클 및 클리크와 같은 다양한 그래프 구조로 일반화 가능한가? 합성 데이터셋과 실제 세계 데이터셋 모두에서의 성능은 어떠한가?

주요 결과

• CoGE는 CYCLIQ 데이터셋에서 클리크 탐지 작업에서 99%의 설명 정확도를 기록하며, 이는 GNNExplainer(73%)와 occlusion(86%)보다 뚜렷이 높은 성능이다.
• 사이클 탐지 작업에서는 CoGE가 78%의 정확도를 기록하여, GNNExplainer(43%)와 occlusion(39%)를 모두 앞서며 모든 기준보다 뛰어난 성능을 보였다.
• 추론 연구 결과, $\mathcal{L}_{W}^{\not{\approx}}$ 항이 성능 향상에 가장 큰 기여를 하였지만, $\mathcal{L}_{W}^{\approx}$ 및 $\mathcal{L}_{W}^{=}$와의 조합을 통해 정확도가 추가로 향상됨을 확인하였다.
• 최적 운반 대신 평균 임베딩 간 유클리드 거리를 사용할 경우 성능이 평균적으로 떨어지며, 이는 OT가 구조적 차이를 효과적으로 포착하는 데 핵심적임을 시사한다.
• CoGE는 다양한 하이퍼파라미터 설정에서도 높은 성능을 유지하여, 파rameter 선택에 대한 내구성을 입증하였다.
• 시각화 결과, CoGE는 클리크 및 사이클 엣지를 가장 중요한 것으로 정확히 식별하는 반면, occlusion과 같은 다른 방법들은 구조적 붕괴로 인해 관련 없는 엣지를 강조하는 것으로 확인되었다.