[논문 리뷰] Learning from Counterfactual Links for Link Prediction

Tong Zhao, Gang Liu외 3명|arXiv (Cornell University)|2021. 06. 03.

Advanced Graph Neural Networks인용 수 14

한 줄 요약

이 논문은 인과 추론을 통해 반사적 링크를 생성함으로써 링크 예측 성능을 햖थ하는 새로운 그래프 학습 방법인 반사적 링크 예측(CFLP)을 제안한다. 전역적 그래프 구조(예: 커뮤니티 소속)를 치료로, 링크 존재 여부를 결과로 간주함으로써, 서로 다른 구조 조건 하에서 유사한 노드 쌍을 식별하고 이를 증강된 학습 데이터로 활용함으로써 벤치마크 데이터셋에서 최신 기술 수준(SOTA) 성능을 달성한다.

ABSTRACT

Learning to predict missing links is important for many graph-based applications. Existing methods were designed to learn the association between observed graph structure and existence of link between a pair of nodes. However, the causal relationship between the two variables was largely ignored for learning to predict links on a graph. In this work, we visit this factor by asking a counterfactual question: "would the link still exist if the graph structure became different from observation?" Its answer, counterfactual links, will be able to augment the graph data for representation learning. To create these links, we employ causal models that consider the information (i.e., learned representations) of node pairs as context, global graph structural properties as treatment, and link existence as outcome. We propose a novel data augmentation-based link prediction method that creates counterfactual links and learns representations from both the observed and counterfactual links. Experiments on benchmark data show that our graph learning method achieves state-of-the-art performance on the task of link prediction.

연구 동기 및 목표

• 기존 링크 예측 방법이 관찰된 연관 패tern에만 의존하고 그래프 구조와 링크 존재 간의 인과 관계를 忽略하는 한계를 해결하기 위해.
• 그래프 표현 학습에 반사적 추론을 통합하여 링크 예측의 일반화 능력을 향상시키기 위해.
• 관측되지 않은 그러나 타당한 링크 시나리오를 포함한 증강된 학습 데이터를 제공하는 인과 추론 기반의 데이터 증강 전략을 개발하기 위해.
• 반사적 링크에서 개인 치료 효과(ITE)를 학습하는 것이 표준 GNN 기반 방법에 비해 링크 예측 성능을 향상시키는가를 조사하기 위해.

제안 방법

• 관찰된 연관성 외의 원인 요인을 식별하기 위해 '그래프 구조가 달라졌다면 링크가 여전히 존재했을까?'라는 반사적 질문을 정의한다.
• 노드 쌍 표현을 맥락으로, 전역적 구조적 특성(예: 스펙트럴 클러스터링을 통한 커뮤니티 할당)을 치료로, 링크 존재 여부를 결과로 간주한다.
• 각 관측된 노드 쌍에 대해, 다른 치료 조건(예: 다른 커뮤니티)을 가진 가장 유사한 노드 쌍을 찾아 반사적 링크를 형성한다.
• 반사적 링크의 결과(에지 존재 또는 부재)를 관측되지 않았지만 유의미한 신호로 간주하여 학습에 활용한다.
• 사실 기반 링크와 반사적 링크를 동시에 예측할 수 있도록 GNN 기반 링크 예측기를 학습함으로써, 개인 치료 효과를 반영한 표현을 학습한다.
• 추정된 개인 치료 효과(ITE)를 신호로 활용하여, 구조적 유사성 외의 요소에 초점을 맞춘 표현 학습을 유도한다.

실험 결과

연구 질문

• RQ1 관측된 연관성 외의 요소를 고려한 반사적 추론이 관측된 패턴 학습을 넘어서 링크 예측 성능 향상에 기여하는가?
• RQ2 그래프 구조적 데이터에서 인과 모델링을 활용해 반사적 링크를 체계적으로 생성할 수 있는가?
• RQ3 반사적 링크를 증강된 학습 데이터로 통합하면 링크 예측 작업에서 더 나은 일반화 성능을 달성하는가?
• RQ4 반사적 링크에서 추정한 개인 치료 효과(ITE)를 학습하는 것이 표준 GNN에 비해 모델 성능 향상에 얼마나 기여하는가?
• RQ5 커뮤니티 구조에 기반한 단순한 인과 모델이 링크 예측 정확도를 상당히 향상시킬 수 있는가?

주요 결과

• CFLP는 반사적 링크를 증강된 학습 데이터로 활용함으로써 여러 벤치마크 링크 예측 데이터셋에서 최신 기술 수준(SOTA) 성능을 달성한다.
• 구조적 혼동 요인에 강건한 표현을 학습함으로써 일반화 능력을 향상시키며, 이는 구조적 유사성 외의 인과적 요인에 초점을 맞춘다.
• 반사적 링크는 진정한 링크 형성 원인을 잡음 상관관계에서 분리하는 데 도움이 되는 의미 있는 감독 신호를 제공한다.
• 사실 링크와 반사적 링크를 함께 학습함으로써 모델은 개인 치료 효과(ITE)를 추정할 수 있으며, 이는 예측 정확도 향상에 기여한다.
• 실험 결과, CFLP는 특히 혼동 요인으로 인해 구조적 유사성이 오류를 유발하는 상황에서 표준 GNN 기반 링크 예측 방법보다 뛰어난 성능을 보인다.
• 커뮤니티 기반의 치료 조건을 활용함으로써 복잡한 인과 모델링 없이도 효과적이고 확장 가능한 반사적 링크 생성이 가능하다.