[논문 리뷰] Counterfactual Graph Learning for Link Prediction.

Tong Zhao, Gang Liu외 3명|arXiv (Cornell University)|2021. 06. 03.

Advanced Graph Neural Networks참고 문헌 76인용 수 4

한 줄 요약

이 논문은 관측된 링크에서 유사한 반사적 링크를 생성함으로써 그래프 표현 학습을 향상시키기 위해 반사적 추론을 활용하는 새로운 링크 예측 방법을 제안한다. 노드 쌍의 맥락을 맥락으로, 전반적인 그래프 구조를 치료로, 링크 존재 여부를 결과로 간주함으로써, 실제 링크뿐 아니라 반사적 링크로부터도 향상된 표현을 학습함으로써 벤치마크 데이터셋에서 최신 기술 수준(SOTA) 성능을 달성한다.

ABSTRACT

Learning to predict missing links is important for many graph-based applications. Existing methods were designed to learn the observed association between two sets of variables: (1) the observed graph structure and (2) the existence of link between a pair of nodes. However, the causal relationship between these variables was ignored and we visit the possibility of learning it by simply asking a counterfactual question: would the link exist or not if the observed graph structure became different? To answer this question by causal inference, we consider the information of the node pair as context, global graph structural properties as treatment, and link existence as outcome. In this work, we propose a novel link prediction method that enhances graph learning by the counterfactual inference. It creates counterfactual links from the observed ones, and our method learns representations from both of them. Experiments on a number of benchmark datasets show that our proposed method achieves the state-of-the-art performance on link prediction.

연구 동기 및 목표

• 기존 링크 예측 방법이 그래프 구조와 링크 존재 간의 인과관계를 忽시하는 한계를 해결하기 위해.
• 변경된 그래프 구조 하에서 링크 존재 여부가 어떻게 변화할지 시뮬레이션함으로써 반사적 추론이 링크 예측 성능 향상에 기여할 수 있는지 조사하기 위해.
• 관측된 링크와 반사적 링크를 동시에 학습하여 더 견고한 노드 표현을 생성하는 방법을 개발하기 위해.
• 반사적 추론을 통합할 경우 표준 링크 예측 벤치마크에서 우수한 성능을 내는지 입증하기 위해.

제안 방법

• 이 방법은 링크 예측 문제를 반사적 추론 문제로 모델링하며, 노드 쌍의 맥락을 맥락으로, 전반적인 그래프 구조를 치료로, 링크 존재 여부를 결과로 간주한다.
• 노드 수준의 특징과 구조적 맥락을 유지하면서 관측된 그래프 구조를 변형하여 반사적 링크를 생성한다.
• 통합된 그래프 신경망 아키텍처를 통해 관측된 링크와 반사적 링크 양쪽에서 노드 표현을 학습한다.
• 구조적 특성(예: 간선 존재 여부)을 변경하고 이러한 간섭 하에서 링크 존재 여부가 어떻게 변화할지 평가함으로써 반사적 링크를 구성한다.
• 반사적 학습을 그래프 신경망의 메시지 전달 메커니즘에 통합하여 표현 품질을 향상시킨다.
• 최종 링크 예측은 실제 링크 신호와 반사적 링크 신호에서 향상된 표현을 활용하는 디코더를 통해 수행된다.

실험 결과

연구 질문

• RQ1 변경된 그래프 구조 하에서 링크 존재 여부가 어떻게 변화할지 시뮬레이션함으로써 반사적 추론이 링크 예측 성능 향상에 기여할 수 있는가?
• RQ2 관측된 링크만을 사용하는 모델에 비해 반사적 링크를 통합할 경우 학습된 노드 표현의 품질은 어떻게 향상되는가?
• RQ3 제안된 방법이 표준 벤치마크 데이터셋에서 기존 최신 기술 수준(SOTA) 기반 모델보다 얼마나 뛰어난 성능을 보이는가?
• RQ4 반사적 추론 설정에서 전반적인 그래프 구조적 특성이 치료로 기여하는 정도는 어느 정도인가?

주요 결과

• 반사적 추론을 그래프 학습에 통합함으로써, 다양한 벤치마크 링크 예측 데이터셋에서 최신 기술 수준(SOTA) 성능을 달성하였다.
• 반사적 링크를 포함시킴으로써 관측된 링크로만 훈련된 모델에 비해 더 견고하고 일반화 능력이 뛰어난 노드 표현을 얻을 수 있었다.
• 실험 결과는 반사적 추론이 그래프 구조와 링크 존재 간 잠재된 인과적 의존성을 포착함으로써 모델 성능을 향상시킨다는 것을 확인하였다.
• 다양한 그래프 유형과 링크 예측 설정에서 일관된 성능 향상을 보이며, 본 방법의 일반화 능력을 입증하였다.