[논문 리뷰] Learning Influence-Receptivity Network Structure with Guarantee

Ming Yu, Varun Gupta외 1명|arXiv (Cornell University)|2018. 06. 14.

Complex Network Analysis Techniques참고 문헌 36인용 수 3

한 줄 요약

이 논문은 관측된 인접행렬에서 시간에 따라 변화하는 네트워크 구조를 설명하기 위해 다수의 주제에 걸쳐 노드별로 영향력과 수용성 벡터를 학습하는 새로운 영향력-수용성 네트워크 모델을 제안한다. 추정 오차에 대한 이론적 보장을 제공하며, 시뮬레이션 및 실세계 데이터에서 최신 기법들을 능가하여 일반화 능력과 해석 가능성 면에서 뛰어난 성능을 보인다. 주제에 따라 달라지는 연결 패턴을 포착함으로써 주제 의존적인 연결 구조를 반영한다.

ABSTRACT

Traditional works on community detection from observations of information cascade assume that a single adjacency matrix parametrizes all the observed cascades. However, in reality the connection structure usually does not stay the same across cascades. For example, different people have different topics of interest, therefore the connection structure depends on the information/topic content of the cascade. In this paper we consider the case where we observe a sequence of noisy adjacency matrices triggered by information/event with different topic distributions. We propose a novel latent model using the intuition that a connection is more likely to exist between two nodes if they are interested in similar topics, which are common with the information/event. Specifically, we endow each node with two node-topic vectors: an influence vector that measures how influential/authoritative they are on each topic; and a receptivity vector that measures how receptive/susceptible they are to each topic. We show how these two node-topic structures can be estimated from observed adjacency matrices with theoretical guarantee on estimation error, in cases where the topic distributions of the information/event are known, as well as when they are unknown. Experiments on synthetic and real data demonstrate the effectiveness of our model and superior performance compared to state-of-the-art methods.

연구 동기 및 목표

• 시간에 따라 변화하는 네트워크 구조를 모델링할 때 정적 인접행렬의 한계를 해결하기 위해, 연결이 주제별 관심사에 따라 달라지는 상황을 다루기 위함.
• 노드 간 연결성이 주제 분포에 따라 달라지는 네트워크를 모델링하기 위해, 각 노드와 주제별로 영향력 벡터와 수용성 벡터를 사용하기 위함.
• 노이즈가 섞인 관측된 인접행렬에서 영향력 및 수용성 벡터를 이론적 오차 한계와 함께 추정하기 위함.
• 단일 고정 인접행렬을 가정하는 전통적인 네트워크 모델에 비해 더 해석 가능하고 일반화 능력이 뛰어난 대안을 제공하기 위함.
• 주제 분포가 알려져 있거나 알려지지 않은 경우에도 모델을 확장하고, 수렴 보장을 갖춘 모델 확장하기 위함.

제안 방법

• 각 노드를 두 개의 잠재 벡터로 모델링: 주제별로 얼마나 권위 있는지 나타내는 영향력 벡터와 주제별로 얼마나 영향을 받기 쉬운지 나타내는 수용성 벡터.
• 노드 i에서 노드 j로의 유기적 간선 존재 확률을, i의 영향력 벡터와 j의 수용성 벡터의 내적 값에 관측된 캐스케이드의 주제 분포로 가중치를 적용하여 정의.
• 다양한 주제 분포 하에서 관측된 다수의 인접행렬로부터 영향력 및 수용성 행렬을 추정하기 위해 저랭크 행렬 분해 프레임워크를 사용.
• 저랭크 해를 촉진하고 식별 가능성을 보장하기 위해 핵노름 정규화를 적용한 볼록 최적화 프로그램으로 추정 문제를 수식화.
• 주제 분포가 알려져 있거나 알려지지 않은 상황에서 추정 오차에 대한 이론적 보장을 제공하며, 참값으로의 수렴이 통계적 오차 수준까지 보장됨을 보여줌.
• 실제로 효율적으로 최적화 문제를 해결하기 위해 교대 최소화와 스펙트럼 초기화 기법을 적용.

실험 결과

연구 질문

• RQ1 일관된 잠재 구조를 사용하여 주제별 관심사에 따라 변화하는 네트워크 연결성을 시간에 따라 변화하는 네트워크로 모델링할 수 있는가?
• RQ2 다수의 노이즈가 섞인 인접행렬에서 주제별로 각 노드의 영향력 및 수용성 벡터를 이론적 오차 한계와 함께 추정할 수 있는가?
• RQ3 정적 네트워크 모델이나 표준 커뮤니티 탐지 기법에 비해 주제 의존적 영향력-수용성 모델링을 사용할 경우 성능 향상은 어느 정도인가?
• RQ4 주제 분포가 알려지지 않은 경우 모델은 어떻게 작동하며, 이론적 보장 하에 일관된 추정을 달성할 수 있는가?
• RQ5 제안된 모델이 실세계 네트워크 데이터에서 일반화 및 해석 가능성 면에서 어느 정도 향상되는가?

주요 결과

• 제안된 모델은 시뮬레이션 데이터에서 가장 낮은 테스트 오차를 기록하며, 파rameter 수가 더 많아 과적합되는 기존 기법들을 크게 능가한다.
• 논문 인용 네트워크 데이터셋에서, 모델은 테스트 링크 예측 오차 8.217을 기록하여 단일 행렬 방법(8.223)과 K-행렬 방법(8.415)을 모두 능가한다. 파라미터 수는 2400으로, 다른 두 방법(40,000 및 240,000)보다 훨씬 적다.
• 저항성 있는 학습 오차(8.259)와 높은 테스트 일반화 능력으로 인해 과적합을 피함을 확인할 수 있었으며, 다른 두 방법은 높은 모델 복잡도로 인해 과적합 문제를 겪음.
• 논문 데이터셋에서 학습된 영향력 및 수용성 행렬은 의미 있는 패턴을 보이며, 예를 들어 에드워드 위튼은 스트링 이론과 초대칭 장 이론 분야에서 높은 수용성을 보이며, 그의 연구 프로필과 부합함.
• 이론적 분석 결과, 추정 오차가 통계적 최소 최대 속도에 수렴함을 확인하여, 주제 분포가 알려져 있거나 알려지지 않은 상황 모두에서 일관성을 입증함.
• 밀도 있는 인접행렬보다 영향력-수용성 구조가 더 뛰어난 해석 가능성을 제공하며, 주제별로 노드의 역할을 이해하고 타겟 기반 추천 등에 활용 가능함.