[논문 리뷰] Encoding Concepts in Graph Neural Networks

Lucie Charlotte Magister, Pietro Barbiero외 6명|arXiv (Cornell University)|2022. 07. 27.

Advanced Graph Neural Networks인용 수 5

한 줄 요약

이 논문은 그래프 신경망(GNNs)의 설명 가능성을 설계부터 보장하는 비차별적(end-to-end) 프레임워크인 개념 인코더 모듈(CEM)을 소개한다. 이는 GNN의 잠재 공간에서 클러스터링을 통해 인간이 이해할 수 있는 개념을 탐색하고, 이를 예측을 안내하는 데 사용한다. 이 방법은 개념 품질, 모델 정확도, 인간 간섭 지원 측면에서 최신 기술 수준의 성능을 달성하며, 예측 능력을 희생시키지 않은 채 신뢰도와 해석 가능성의 향상을 크게 이룬다.

ABSTRACT

The opaque reasoning of Graph Neural Networks induces a lack of human trust. Existing graph network explainers attempt to address this issue by providing post-hoc explanations, however, they fail to make the model itself more interpretable. To fill this gap, we introduce the Concept Encoder Module, the first differentiable concept-discovery approach for graph networks. The proposed approach makes graph networks explainable by design by first discovering graph concepts and then using these to solve the task. Our results demonstrate that this approach allows graph networks to: (i) attain model accuracy comparable with their equivalent vanilla versions, (ii) discover meaningful concepts that achieve high concept completeness and purity scores, (iii) provide high-quality concept-based logic explanations for their prediction, and (iv) support effective interventions at test time: these can increase human trust as well as significantly improve model performance.

연구 동기 및 목표

• 그래프 신경망(GNNs)의 투명하지 않은 추론 과정으로 인한 인간의 신뢰 부족 문제를 해결하기 위해.
• 모델의 본질적 해석 가능성을 보장하지 못하는 사후(post-hoc) 설명 방법의 한계를 극복하기 위해.
• 학습 과정 중에 의미 있는, 인간이 이해할 수 있는 그래프 개념을 탐지하는 비차별적, 종단 간 프레임워크를 개발하기 위해.
• 모델 성능 향상과 편향 보정을 위해 개념 수준에서 효과적인 인간 간섭을 가능하게 하기 위해.
• 높은 품질의 논리 기반 개념 설명을 달성하면서도 모델 정확도를 유지하거나 향상시키기 위해.

제안 방법

• 개념 인코더 모듈(CEM)은 GNN 아키텍처 내에 비차별적 클러스터링 메커니즘을 통합하여 학습 과정에서 직접 개념을 탐지한다.
• 사전 학습된 GNN의 노드 임베딩에 대해 k-평균(k-Means) 클러스터링을 수행하여 잠재 공간 내 개념 원형(prototype)을 식별한다.
• 각 노드는 클러스터 중심점과의 거리에 따라 개념 레이블을 할당받으며, 이로써 개념 인식 표현이 형성된다.
• 이러한 발견된 개념을 비차별적이고 해석 가능한 분류기(예: 논리 기반 또는 기호적 헤드)의 입력으로 사용하여 최종 예측을 수행한다.
• 전체 파ip라인은 종단 간 비차별적 설계로, 클러스터링 및 분류 구성 요소를 통해 기울기(gradient)가 흐르도록 한다.
• 모델은 클러스터 수에 대한 수동적인 하이퍼파라미터 조정 없이도 최적의 개념 수를 동적으로 결정한다.

실험 결과

연구 질문

• RQ1 비차별적, 종단 간 방법이 GNN의 잠재 공간에서 높은 품질의 인간이 이해할 수 있는 개념을 탐지할 수 있는가?
• RQ2 발견된 개념을 예측 헤드에 통합할 경우, 기존 GNN과 비교해 모델 정확도가 유지되거나 향상되는가?
• RQ3 모델이 의미적으로 의미 있고 샘플 간 일관성 있는 높은 순도와 완전성의 개념을 생성할 수 있는가?
• RQ4 개념 수준에서의 인간 간섭이 모델 성능 향상과 신뢰도 향상에 얼마나 기여하는가?
• RQ5 모델이 발견된 개념에 기반한 정확하고 논리 기반의 설명을 제공할 수 있는가?

주요 결과

• 제안된 개념 그래프 네트워크(CGNs)는 벤치마크 데이터셋에서 기존 GNN과 유사한 모델 정확도를 달성한다.
• 발견된 개념들은 높은 순도와 완전성 점수를 보이며, 강한 의미적 일관성과 높은 표현 품질을 나타낸다.
• 모델은 발견된 개념에 기반한 고품질의 해석 가능한 논리 설명을 생성하여 인간의 이해를 향상시킨다.
• 개념 수준에서의 인간 간섭 — 예를 들어 개념 가중치 수정 — 이 모델 성능 향상과 편향 감소에 뚜렷한 기여를 한다.
• 모델은 클러스터 수 하이퍼파라미터의 수동 조정이 필요 없이 개념 수를 동적으로 결정한다.
• 지난 로컬 기반의 인스턴스 특정 설명기법과 달리, 전체 데이터 분포에서 개념을 학습함으로써 확장 가능한 글로벌 설명을 지원한다.