[논문 리뷰] Graph Neural Networks for User Identity Linkage

Wen Zhang, Kai Shu외 2명|arXiv (Cornell University)|2019. 03. 06.

Advanced Graph Neural Networks참고 문헌 26인용 수 16

한 줄 요약

이 논문은 사용자 소셜 네트워크에서 국소적 근접 구조와 전역적 커뮤니티 수준의 위상 구조를 동시에 모델링하는 그래프 신경망 프레임워크인 GraphUIL을 제안한다. 이를 통해 플랫폼 간 사용자 신원 연결을 향상시킨다. 국소적 및 전역적 구조 인식을 위한 다단계 집약을 통합함으로써 GraphUIL은 실제 데이터셋에서 F1-스코어 0.754±0.018를 기록하며 최첨단 성능을 달성하였으며, 이는 신원 연결을 위한 두 구조 수준을 동시에 포착하는 것이 효과적임을 입증한다.

ABSTRACT

The increasing popularity and diversity of social media sites has encouraged more and more people to participate in multiple online social networks to enjoy their services. Each user may create a user identity to represent his or her unique public figure in every social network. User identity linkage across online social networks is an emerging task and has attracted increasing attention, which could potentially impact various domains such as recommendations and link predictions. The majority of existing work focuses on mining network proximity or user profile data for discovering user identity linkages. With the recent advancements in graph neural networks (GNNs), it provides great potential to advance user identity linkage since users are connected in social graphs, and learning latent factors of users and items is the key. However, predicting user identity linkages based on GNNs faces challenges. For example, the user social graphs encode both extit{local} structure such as users' neighborhood signals, and extit{global} structure with community properties. To address these challenges simultaneously, in this paper, we present a novel graph neural network framework ({\m}) for user identity linkage. In particular, we provide a principled approach to jointly capture local and global information in the user-user social graph and propose the framework {\m}, which jointly learning user representations for user identity linkage. Extensive experiments on real-world datasets demonstrate the effectiveness of the proposed framework.

연구 동기 및 목표

• 프로필 또는 콘텐츠 특징을 사용하지 않고도 소셜 그래프 데이터만을 활용해 다수의 소셜 네트워크 간 사용자 신원을 연결하는 문제에 대응한다.
• 기존 방법들이 국소적 근접성 또는 전역 네트워크 임베딩에만 초점을 맞추는 한계를 극복하기 위해 국소적 및 전역 구조 신호를 동시에 모델링한다.
• 국소적 노드 수준 및 전역 커뮤니티 수준의 네트워크 구조를 유지하는 반감독 학습 프레임워크를 개발하여 사용자 신원 연결 예측 성능을 향상시킨다.
• 그래프 신경망을 사용해 사용자 신원 연결을 그래프 표현 학습 문제로 재정의함으로써 플랫폼 간 사용자 임베딩의 엔드 투 엔드 학습을 가능하게 한다.

제안 방법

• 국소적 및 전역 구조 집약기의 스택된 레이어를 적용해 계층적 노드 표현을 캡처하는 다단계 집약(MSA) 메커니즘을 제안한다.
• MSA 아키텍처에 장거리 연결을 통합하여 장거리 의존성을 유지하고 학습 중 기울기 흐름을 향상시킨다.
• 공유된 MSA 레이어를 사용해 두 개의 별도된 소셜 네트워크(SN1 및 SN2)를 처리하는 이중 브랜치 인코더를 설계한다.
• 디코더 모듈을 통해 네트워크 재구성을 수행하여 노드 표현 학습을 감독하고 구조적 정밀도를 확보한다.
• 인코딩된 노드 특징에 다층 퍼셉트론(MLP)을 적용하여 네트워크 간 사용자 신원 연결을 예측한다.
• 국소 및 전역 재구성 손실의 가중 조합을 최적화하여 모델을 학습하며, 국소 및 전역 구조 유지 균형을 조절하는 하이퍼파라미터 α 및 β를 사용한다.

실험 결과

연구 질문

• RQ1 그래프 신경망이 국소적 근접 구조와 전역 커뮤니티 수준의 위상 구조를 동시에 포착하는 사용자 표현을 효과적으로 학습할 수 있는가?
• RQ2 국소 및 전역 구조 모델링 구성 요소가 성능에 독립적으로 및 함께 기여하는 방식은 어떠한가?
• RQ3 연결 정확도와 F1-스코어를 최대화하기 위해 훈련 목표에서 국소 및 전역 구조 재구성 간 최적의 균형은 무엇인가?
• RQ4 기존의 국소적 근접성 또는 전역 임베딩에만 의존하는 방법과 비교해 제안된 GraphUIL 프레임워크는 어떻게 성능을 냈는가?

주요 결과

• GraphUIL은 실제 데이터셋에서 F1-스코어 0.754±0.018를 기록하며 기준 방법들을 크게 능가하여 국소 및 전역 구조 모델링을 통합한 것이 효과적임을 입증한다.
• 제거 실험 결과 국소 위상 집약기(LTA-Agg)를 제거할 경우 정확도가 0.08 감소하고 F1-스코어가 0.2 감소함으로써 그 중요성이 확인된다.
• 전역 위상 집약기(GTA-Agg) 역시 상당한 기여를 하며, 제거 시 정확도가 0.04 감소하고 F1-스코어가 0.1 감소함으로써 LTA-Agg와 상호보완적인 이점을 제공한다.
• 하이퍼파라미터 분석 결과 국소 및 전역 재구성 간 최적 균형은 α=10 및 β=1일 때 달성되며, 이때 α는 전역 손실을 제어하고 β는 국소 손실을 제어한다.
• 모델은 전역 재구성 손실이 더 강하게 가중된 경우(α > 1)와 국소 재구성 손실이 중간 수준으로 가중된 경우(β < 1)에 가장 우수한 성능을 보이며, 이는 전역 구조가 과소적합에 더 민감함을 시사한다.
• 모델은 프로필 데이터가 종종 불완전하거나 비공개인 실세계 환경에서의 구현에 적합하기 때문에, 그래프 구조에만 의존함으로써 노이즈 및 편향이 있는 소셜 네트워크 데이터에 대해 뛰어난 내성성을 보였다.