[논문 리뷰] Popularity Prediction on Social Platforms with Coupled Graph Neural Networks

Qi Cao, Huawei Shen외 3명|arXiv (Cornell University)|2019. 06. 21.

Complex Network Analysis Techniques참고 문헌 50인용 수 9

한 줄 요약

이 논문은 두 개의 결합된 GNN을 통해 노드 활성 상태와 영향력 전파를 동시에 학습함으로써 소셜 미디어 콘텐츠 확산에서의 연쇄 효과를 모델링하는 새로운 그래프 신경망 프레임워크인 CoupledGNN을 제안한다. 실재 데이터(Sina Weibo)와 합성 데이터에 대한 실험 결과, 최신 기술 대비 인기 예측 성능에서 유의미하게 뛰어나며, 평균 상대 제곱 오차(MRSE)가 낮고 부분 네트워크 조건 하에서도 뛰어난 성능을 보였다.

ABSTRACT

Predicting the popularity of online content on social platforms is an important task for both researchers and practitioners. Previous methods mainly leverage demographics, temporal and structural patterns of early adopters for popularity prediction. However, most existing methods are less effective to precisely capture the cascading effect in information diffusion, in which early adopters try to activate potential users along the underlying network. In this paper, we consider the problem of network-aware popularity prediction, leveraging both early adopters and social networks for popularity prediction. We propose to capture the cascading effect explicitly, modeling the activation state of a target user given the activation state and influence of his/her neighbors. To achieve this goal, we propose a novel method, namely CoupledGNN, which uses two coupled graph neural networks to capture the interplay between node activation states and the spread of influence. By stacking graph neural network layers, our proposed method naturally captures the cascading effect along the network in a successive manner. Experiments conducted on both synthetic and real-world Sina Weibo datasets demonstrate that our method significantly outperforms the state-of-the-art methods for popularity prediction.

연구 동기 및 목표

• 소셜 플랫폼에서 온라인 콘텐츠의 인기를 정확히 예측하기 위해 정보 확산에서의 연쇄 효과를 모델링하는 데 도전한다.
• 기존 방법들이 소셜 네트워크 내에서 사용자 활성 상태와 영향력 전파 간의 동적 상호작용을 간과하는 데 개선이 필요하다.
• 기본 소셜 네트워크 구조를 따라 사용자가 순차적으로 활성화되는 것을 명시적으로 캡처하는 네트워크 인식 기반의 인기 예측 모델을 개발한다.
• 결합된 GNN 아키텍처를 통해 노드 상태와 영향력 확산을 통합함으로써 사용자 수준 및 거시 수준의 인기 예측을 종단 간(end-to-end) 학습할 수 있도록 한다.
• 부분 네트워크 조건 및 다양한 하이퍼파라미터 하에서 제안된 방법의 강건성과 효과성을 검증한다.

제안 방법

• 이 방법은 두 개의 결합된 그래프 신경망을 사용한다: 하나는 사용자 활성 상태에 의해 게이팅되는 영향력 전파를 모델링하고, 다른 하나는 이웃의 영향력에 기반해 사용자 활성 상태를 업데이트한다.
• GNN 레이어에서 반복적인 이웃 집합을 통한 집합(aggregation)을 통해 다수의 홉을 거쳐 소셜 네트워크 구조를 따라 자연스럽게 연쇄 효과를 캡처한다.
• 노드 활성 상태는 이웃의 영향력의 가중합에 기반해 업데이트되며, 영향력 흐름을 제어하기 위한 학습 가능한 게이트를 사용한다.
• 표현 결합 또는 어텐션 메커니즘을 통해 시간적 동적 특성 및 콘텐츠 정보와 같은 추가 기능을 유연하게 융합할 수 있다.
• 일반화 성능 향상을 위해 거시 수준 인기 예측(MRSE)과 사용자 수준 교차 엔트로피 손실을 조합한 다중 작업 손실을 사용해 종단 간(end-to-end)으로 모델을 훈련한다.
• 특히 GNN 레이어 수에 대한 하이퍼파라미터 튜닝은 초기 수용자에서 활성화된 사용자까지의 최단 경로 분포 분 析를 통해 유도된다.

실험 결과

연구 질문

• RQ1 결합된 GNN 아키텍처는 소셜 네트워크에서의 정보 확산 연쇄 효과를 인기 예측에 효과적으로 모델링할 수 있는가?
• RQ2 CoupledGNN의 GNN 레이어 수는 실제 소셜 네트워크에서의 연쇄 효과의 실제 영향 범위와 어떻게 관련이 있는가?
• RQ3 사용자 수준 및 거시 수준의 감독 정보를 통합함으로써 예측 성능 향상은 어느 정도 이루어지는가?
• RQ4 실제 소셜 플랫폼에서 흔히 볼 수 있는 부분적 또는 불완전한 네트워크 구조에 대해 CoupledGNN 모델은 얼마나 강건한가?
• RQ5 제안된 방법은 합성 및 실제 세계의 인기 예측 벤치마크에서 기존 최신 기술 대비 뛰어난 성능을 보이는가?

주요 결과

• λ = 0.5일 때 검증 세트에서 평균 상대 제곱 오차(MRSE)가 0.1101로, 모든 테스트된 λ 값 중에서 가장 낮아 사용자 수준과 거시 수준 감독 간 최적의 균형을 이룬다.
• 합성 데이터 및 실제 Sina Weibo 데이터셋 모두에서 강력한 베이스라인인 DeepCas보다 유의미하게 뛰어난 예측 정확도를 보이며, 뛰어난 예측 정확도를 입증한다.
• 네트워크에서 최대 20%의 간선을 무작위로 제거한 상황에서도 CoupledGNN은 DeepCas보다 유의미하게 뛰어난 성능 유지를 보이며, 부분 네트워크 정보에 대한 강건성을 입증한다.
• 최적의 GNN 레이어 수(K=3)는 실제로 초기 수용자에서 활성화된 사용자까지의 최단 경로 분포와 매우 밀접하게 일치하며, 활성화된 사용자 중 99.76%가 3홉 이내에 위치함을 확인한다.
• 제거 실험(ablation study) 결과, 사용자 수준 교차 엔트로피 손실을 추가하면 거시 수준 인기 예측 성능 향상이 가능하지만, 과도한 가중치(λ > 10.0)는 사용자 수준 작업에 대한 과적합으로 인해 성능 저하를 유발함을 확인했다.