[논문 리뷰] Learning user-specific latent influence and susceptibility from information cascades

Yongqing Wang, Huawei Shen외 2명|arXiv (Cornell University)|2013. 10. 15.

Complex Network Analysis Techniques참고 문헌 23인용 수 4

한 줄 요약

이 논문은 각 사용자를 영향력과 정보 수용성에 대한 두 개의 저차원 벡터로 표현하는 잠재적 영향력 및 수용성(LIS) 모델을 제안한다. 이는 파arameter 수를 줄이며 캐스케이드 동역학을 정확하게 예측할 수 있도록 한다. 이론적으로는 이웃의 영향력과 사용자의 수용성의 곱으로 전파를 모델링함으로써 과적합을 줄이고, 실제 마이크로블로깅 데이터에서 리트윗, 캐스케이드 크기 및 동역학 예측에서 이중 모델보다 뛰어난 성능을 발휘한다.

ABSTRACT

Predicting cascade dynamics has important implications for understanding information propagation and launching viral marketing. Previous works mainly adopt a pair-wise manner, modeling the propagation probability between pairs of users using n^2 independent parameters for n users. Consequently, these models suffer from severe overfitting problem, specially for pairs of users without direct interactions, limiting their prediction accuracy. Here we propose to model the cascade dynamics by learning two low-dimensional user-specific vectors from observed cascades, capturing their influence and susceptibility respectively. This model requires much less parameters and thus could combat overfitting problem. Moreover, this model could naturally model context-dependent factors like cumulative effect in information propagation. Extensive experiments on synthetic dataset and a large-scale microblogging dataset demonstrate that this model outperforms the existing pair-wise models at predicting cascade dynamics, cascade size, and "who will be retweeted".

연구 동기 및 목표

• 기존의 이중 모델이 모든 사용자 쌍을 독립적으로 다루기 때문에 발생하는 심각한 과적합 문제를 해결하기 위해, 특히 관측되지 않은 상호작용에 대해.
• 사용자별 영향력과 수용성을 $n^2$개의 이중 파rameter 대신 저차원 잠재 벡터로 모델링하기 위해.
• 정보 전파에서 누적 노출과 같은 맥락 의존적 효과를 자연스럽게 포착하기 위해.
• 명시적인 사회 네트워크 구조가 필요 없이 캐스케이드 동역학, 크기 및 리트윗 행동을 정확하게 예측할 수 있도록 하기 위해.
• 정보 확산에서 개인 간 영향력에 대한 정량적이고 주제 인식 가능한 이해를 제공하기 위해.

제안 방법

• 각 사용자는 영향력 벡터 $I_u$와 수용성 벡터 $S_u$로 구성된 두 개의 음이 아닌 $d$차원 잠재 벡터로 표현되며, 이는 각각 $d$개의 잠재 주제에 대해 정보를 퍼뜨리고 수용할 잠재 경향을 모델링한다.
• 사용자 $v$에서 사용자 $u$로의 전파 확률은 내적 $I_v^T S_u$로 모델링되며, 이는 이웃의 영향력과 대상의 수용성 간의 상호작용을 포착한다.
• 모델은 관측된 정보 캐스케이드 기반으로 최대우도추정법을 사용하여 잠재 벡터를 학습하며, 관측된 전파 순서의 로그우도를 최적화한다.
• 이 방법은 명시적 및 암시적 사회 네트워크 모두에 적용 가능하다. 왜냐하면 사전에 정의된 네트워크 구조에 의존하지 않고 캐스케이드 기록에서 학습하기 때문이다.
• 잠재 특징의 주제 할당은 해시태그 분포와 켄달-$\tau$ 상관계수를 사용하여 분석하여, 학습된 벡터가 구분 가능하고 주제별로 특화되어 있음을 검증한다.
• 모델은 누적 효과를 통합하여 동일한 메시지에 대한 이전 노출이 사용자의 수용성을 증가시키도록 하여, 캐스케이드 모델과 임계값 모델의 특성을 융합한다.

실험 결과

연구 질문

• RQ1 저랭크의 사용자별 영향력 및 수용성 표현이 정보 캐스케이드 동역학 예측에서 이중 모델보다 뛰어나게 성능을 발휘할 수 있는가?
• RQ2 잠재 벡터는 동일한 메시지에 대한 누적 노출과 같은 맥락 의존적 전파 효과를 얼마나 잘 포착할 수 있는가?
• RQ3 학습된 영향력 및 수용성 벡터가 실제 소셜 미디어에서 주제별 개인 간 영향력을 얼마나 잘 반영하는가?
• RQ4 LIS 모델은 명시적인 사회 네트워크 구조가 없는 상황에서도 효과적으로 일반화되는가?
• RQ5 잠재 특징은 실제 주제와 어떻게 상관관계가 있으며, 서로 다른 주제 간에 구분 가능성이 있는가?

주요 결과

• LIS 모델은 기존의 이중 모델보다 캐스케이드 동역학 예측에서 뚜렷한 성능 향상을 보이며, 모든 평가 지표에서 정규화된 할인 누적 이득(NDCG)과 평균 역수 순위(MRR) 향상이 관찰된다.
• 신나 웨이보 데이터셋에서 LIS는 T3 기준 MRR 0.797을 기록하여 모든 베이스라인을 초월하며, 다양한 캐스케이드 크기와 시간 창에서 높은 성능 유지를 보였다.
• 학습된 영향력 및 수용성 벡터는 강력한 주제 특이성을 보이며, 잠재 특징에서 상위 해시태그가 관련 특징(예: '샤오미 출시')과 높은 상관관계(예: 켄달-$\tau$ = 0.93)를 보였다.
• 대부분의 잠재 특징 쌍은 낮은 상관관계(근처 0)를 보이며, 이는 영향력과 수용성에 대해 독립적이고 주제별 특화된 표현을 학습하고 있음을 시사한다.
• 모델은 누적 효과를 효과적으로 포착한다: 동일한 메시지에 대한 반복적 노출은 사용자가 리트윗할 가능성을 높이며, 이는 예측 정확도 향상에 기여한다.
• LIS 모델은 암시적 네트워크에 대해 잘 일반화되며, 사전에 사회 구조를 알 필요가 없기 때문에 다양한 실제 환경에 적용 가능하다.