[논문 리뷰] Interactions in information spread: quantification and interpretation using stochastic block models

Gaël Poux-Médard, Julien Velcin외 1명|arXiv (Cornell University)|2020. 04. 09.

Complex Network Analysis Techniques참고 문헌 37인용 수 6

한 줄 요약

이 논문은 정보 확산 및 결과 예측에서 실체(예: 해시태그, 증상, 제품) 간의 상호작용을 정량화하는 확률적 프레임워크인 상호작용 혼합 구성 확률 블록 모델(IMMSBM)을 제안한다. 개별 실체의 확산성 외에도 실체 조합이 결과에 미치는 영향을 모델링함으로써, 비상호작용 모델 대비 상대적 확률 변화에서 최대 150% 향상된 예측 성능을 보이며, 사회적 네트워크, 의료 진단, 추천 시스템 분야에서 정확한 추론을 위해 상호작용이 핵심임을 입증한다.

ABSTRACT

In most real-world applications, it is seldom the case that a given observable evolves independently of its environment. In social networks, users' behavior results from the people they interact with, news in their feed, or trending topics. In natural language, the meaning of phrases emerges from the combination of words. In general medicine, a diagnosis is established on the basis of the interaction of symptoms. Here, we propose a new model, the Interactive Mixed Membership Stochastic Block Model (IMMSBM), which investigates the role of interactions between entities (hashtags, words, memes, etc.) and quantifies their importance within the aforementioned corpora. We find that interactions play an important role in those corpora. In inference tasks, taking them into account leads to average relative changes with respect to non-interactive models of up to 150\% in the probability of an outcome. Furthermore, their role greatly improves the predictive power of the model. Our findings suggest that neglecting interactions when modeling real-world phenomena might lead to incorrect conclusions being drawn.

연구 동기 및 목표

• 정보 확산 및 결과 예측에서 실체(예: 해시태그, 증상, 제품) 간의 상호작용을 모델링하는 데 있어 기존의 격차를 보완하기 위해.
• 개별 실체의 확산성 외에 쌍별 상호작용이 결과 확률에 기여하는 정도를 정량화하기 위해.
• 스케일이 가능하고 해석이 가능한 모델을 개발하여, 소셜 미디어, 의료 코퍼스, 음악 플랫폼과 같은 실제 데이터셋에서 예측 성능을 향상시키기 위해.
• 특정 실체 조합이 특정 결과를 유도하는 이유와 방식을 설명할 수 있는 프레임워크를 제공하여, 사회과학 및 인공지능 응용 분야에서 모델의 해석 가능성 향상시키기 위해.

제안 방법

• IMMSBM는 혼합 구성 확률 블록 모델(MMSBM)을 확장하여 실체 클러스터 간의 이차형 상호작용 항을 도입함으로써, 두 클러스터의 조합이 결과 확률에 어떻게 영향을 미치는지를 모델링한다.
• 모델은 각 결과가 두 실체의 클러스터 구성에 의해 결정되는 생성 과정을 사용하며, 클러스터 k와 l 간의 상호작용 강도를 기록하는 행렬 $ V_{k,l} $로 매개변수화된다.
• 대규모 데이터셋에 대응할 수 있도록 효율적인 기대값 최대화(EM) 알고리즘을 개발하여 모델 파라미터를 추정한다.
• 모델은 개별 실체의 내재적 확산성과 그들의 상호작용이 유도하는 추가 효과를 구분함으로써, 각 성분의 독립적인 정량화를 가능하게 한다.
• 혼합 구성 접근법을 통해 각 실체가 다양한 확률로 여러 클러스터에 속하게 하여, 복잡한 의미 관계를의 탄력적인 표현이 가능하다.
• 클러스터의 구성에 기반한 수동 레이블링과 상호작용 히트맵, 구성도 엔트로피 분석을 통해 클러스터의 일관성과 상호작용 패턴을 평가함으로써 모델의 해석 가능성을 향상시킨다.

(a)

실험 결과

연구 질문

• RQ1 해시태그, 증상, 또는 제품과 같은 실체 간의 쌍별 상호작용이 정보 확산에서 결과 확률에 어떻게 영향을 미치는가?
• RQ2 개별 실체의 확산성만 고려하는 모델에 비해 상호작용을 고려할 경우 예측 성능 향상 정도는 어느 정도인가?
• RQ3 실제 코퍼스에서 어떤 특정 실체 클러스터 쌍이 가장 강하거나 의미 있는 상호작용을 보이는가?
• RQ4 상호작용 효과를 어떻게 정량화하고 시각화하여 모델의 해석 가능성과 설명 가능성을 향상시킬 수 있는가?
• RQ5 클러스터 구성도 엔트로피는 추론된 상호작용 구조의 일관성과 해석 가능성 평가에 어떤 역할을 하는가?

주요 결과

• 쌍별 상호작용을 모델에 통합함으로써, 비상호작용 모델 대비 예측 결과 확률의 평균 상대적 증가율이 최대 150%에 이를 수 있었다.
• 모델은 PubMed(질병 증상), Reddit(사용자 토론), Twitter(해시태그), Spotify(음악 플레이리스트)와 같은 다양한 코퍼스에서 예측 성능을 크게 향상시켰다.
• 상호작용 행렬 $ V_{k,l} $ 는 유의미하게 상호작용하는 클러스터의 소수만 존재하며, 대부분의 클러스터는 유의미한 상호작용 효과를 보이지 않았다.
• 행렬 $ V_{k,l} $ 의 대각선 요소는 일관되게 낮았으며, 이는 동일 클러스터 간 상호작용(자기상호작용)이 개별 실체의 확산성 외에 거의 기여하지 않음을 시사한다. 반면, 교차 클러스터 상호작용은 종종 결과 확률을 감소시키거나 방향을 전환시켰다.
• 모든 코퍼스에서 구성도 엔트로피가 낮게 유지되었으며(0.320–0.561), 실체가 주로 한두 개의 클러스터에 할당됨을 나타내어, 모델의 해석 가능성 향상과 의미 있는 수동 클러스터 레이블링이 가능했다.
• 모델는 상호작용을 간과할 경우 잘못된 결론에 이를 수 있음을 입증하였으며, 상호작용은 결과 확률을 극적으로 변화시킬 수 있다. 예를 들어, '귀통증'과 '언어 장애'를 조합할 경우, 진단 결과는 귀 질환에서 뇌 질환으로 이동하게 된다.

(b)