[논문 리뷰] A Review of Latent Space Models for Social Networks

Juan Sosa, Lina Buitrago|arXiv (Cornell University)|2020. 12. 03.

Complex Network Analysis Techniques참고 문헌 39인용 수 4

한 줄 요약

이 논문은 방향성 없고 이진 네트워크 내에서 거리 모델, 클래스 모델, 고유벡터 모델을 중심으로 잠재공간 모델을 검토한다. MCMC 기반 베이지안 추론과 WAIC 기반 모델 선택을 통해, 특히 복잡하고 군집화된 네트워크에서 고유벡터 모델이 다른 모델보다 우수한 적합도와 예측 성능을 보이며 전반적으로 강력한 적합도를 제공함을 입증한다.

ABSTRACT

In this paper, we provide a review on both fundamentals of social networks and latent space modeling. The former discusses important topics related to network description, including vertex characteristics and network structure; whereas the latter articulates relevant advances in network modeling, including random graph models, generalized random graph models, exponential random graph models, and social space models. We discuss in detail several latent space models provided in literature, providing special attention to distance, class, and eigen models in the context of undirected, binary networks. In addition, we also examine empirically the behavior of these models in terms of prediction and goodness-of-fit using more than twenty popular datasets of the network literature.

연구 동기 및 목표

• 잠재공간 모델의 이론적 기초와 실용적 응용을 강조하여 사회 네트워크에 대한 체계적인 검토를 제공한다.
• 예측 및 적합도 측면에서 실제 네트워크 데이터셋에 대해 핵심 잠재공간 모델—거리 모델, 클래스 모델, 고유벡터 모델—의 성능을 평가한다.
• 복잡한 네트워크 모델에서 모수 추정과 모델 적합을 위해 마르코프 체인 몬테카를로(MCMC)를 활용한 베이지안 추론을 적용한다.
• 계층적 네트워크 모델에서 최적의 잠재 차원 수를 결정하기 위해 WAIC 및 DIC와 같은 모델 선택 기준을 평가한다.
• 군집화 및 전이성 패턴을 포함한 다양한 네트워크 구조에서 각 모델 유형의 강점과 한계를 규명한다.

제안 방법

• 잠재공간 모델에서 모수의 사후분포 추정을 위해 마르코프 체인 몬테카를로(MCMC) 기반의 베이지안 추론을 활용한다.
• 계층적 모델에서 재매개변수화에 대한 불변성을 고려해 우수한 성능을 보이는 WAIC(와타나베-아카이케 정보기준)을 모델 선택에 사용한다.
• 보조적인 모델 선택 도구로 분산 정보 기준(DIC)을 적용하며, 후행 기대값 기반의 벌점 항을 포함한다.
• K차원 유클리드 공간 내의 잠재 위치를 사용하여 네트워크 구조를 모델링하며, 가까운 거리일수록 관계 형성 확률이 높다는 것을 반영한다.
• 쌍방향 이진 네트워크에 대해 거리 기반 또는 공동체 기반의 연결 확률을 통해 잠재공간 프레임워크를 적용한다.
• 복잡한 네트워크 구조를 정규화하기 위해 잠재 위치 및 모델 모수에 대한 사전 분포를 설정하며, 계층적 사전분포를 활용한다.

실험 결과

연구 질문

• RQ1 다양한 사회 네트워크 데이터셋에서 거리 모델, 클래스 모델, 고유벡터 모델의 적합도와 예측 정확도 측면에서 성능은 어떻게 되는가?
• RQ2 계층적 잠재공간 모델에서 최적의 잠재 차원 수 K를 식별하는 데 있어 WAIC와 DIC 중 어느 기준이 더 우수한가?
• RQ3 고유벡터 모델이 군집화와 전이성과 같은 네트워크 구조를 포괄하는 데 있어 거리 모델과 클래스 모델을 얼마나 일반화하는가?
• RQ4 잠재 차원 수 K가 모델 적합도와 예측 성능에 미치는 영향은 무엇이며, 이를 사전 분포를 가진 랜덤 변수로 간주할 수 있는가?
• RQ5 실증적 평가 기반으로 클래스 모델이 거리 모델보다 우월한 네트워크 환경은 무엇이며, 반대로 거리 모델이 더 우수한 경우는 언제인가?

주요 결과

• 고유벡터 모델은 다양한 네트워크 구조에서 WAIC 기준으로 항상 거리 모델과 클래스 모델을 앞서며, 뛰어난 적합도를 보인다.
• 거리 모델은 전이성이 높은 네트워크를 표현하는 데 특히 효과적이며, 클래스 모델은 높은 군집화 특성을 띤 네트워크에서 뛰어난 성능을 보인다.
• 계층적 잠재공간 모델에서 WAIC는 재매개변수화에 대한 불변성과 효과적 자유도를 더 잘 다루기 때문에 BIC보다 우선 선택되어야 한다.
• 잠재 차원 수 K는 WAIC 기준으로 가장 잘 선택되며, 분 析된 20개 이상의 데이터셋에서 AUC가 가장 낮아지는 최소 K 값이 가장 바람직하다.
• 고유벡터 모델은 거리 모델과 클래스 모델을 정성적으로 일반화하며, 이는 넓은 적용 가능성과 뛰어난 성능을 설명한다.
• 최근 문헌(예: Guhaniyogi & Rodriguez, 2020)에서 보듯이, K를 사전 분포를 가진 모델 모수로 간주하는 것은 가능하며, 비모수적 확장과도 부합한다.