[논문 리뷰] Consistency and Asymptotic Normality of Stochastic Block Models Estimators from Sampled Data

Mahendra Mariadassou, Timothée Tabouy|arXiv (Cornell University)|2019. 03. 28.

Random Matrices and Applications참고 문헌 29인용 수 9

한 줄 요약

이 논문은 MCAR 샘플링을 가정할 때, 값이 부여된 간선을 가진 스토케스틱 블록 모델에서 최대우도추정법과 변분추정법의 일致성과 점근정규성을 확립한다. 추정법은 샘플링 확률이 $\rho \gg \log(n)/n$ 를 만족하는 한 여전히 타당하고 점근적으로 정규분포를 띤다는 것을 증명하며, 이는 완전하지 않은 관찰을 가진 가중치가 부여된 네트워크로 이론적 보장을 확장한다.

ABSTRACT

Statistical analysis of network is an active research area and the literature counts a lot of papers concerned with network models and statistical analysis of networks. However, very few papers deal with missing data in network analysis and we reckon that, in practice, networks are often observed with missing values. In this paper we focus on the Stochastic Block Model with valued edges and consider a MCAR setting by assuming that every dyad (pair of nodes) is sampled identically and independently of the others with probability $\ ho > 0$. We prove that maximum likelihood estimators and its variational approximations are consistent and asymptotically normal in the presence of missing data as soon as the sampling probability $\ ho$ satisfies $\ ho\\gg\\log(n)/n$.

연구 동기 및 목표

• 모든 간선 데이터가 누락되는 경우, 즉 부분 관찰된 경우 스토케스틱 블록 모델의 매개수 추정에 대한 이론적 보장을 확립하기 위해.
• 이전에 이진 또는 완전 관찰된 네트워크에 국한되어 있던 일치성과 점근정규성 결과를, 누락된 데이터 하에서 값이 부여된 간선을 가진 경우로 확장하기 위해.
• 잠재 블록 구조를 가진 네트워크 모델에서 최대우도추정법과 변분추정법에 대한 누락된 데이터의 영향을 분석하기 위해.
• 모든 쌍(다이애드)의 관찰이 불완전하더라도 추정법이 여전히 일치하고 점근적으로 정규분포를 띠게 되는 조건을 제공하기 위해.
• 무한대를 가질 수 있는 비정규 분포의 간선 가중치를 다루기 위해 농도 불등식과 점근 이론을 샘플링 메커니즘과 함께 조정하기 위해.

제안 방법

• 네트워크를 값이 부여된 간선을 가진 스토케스틱 블록 모델로 모델링하며, 각 다이애드는 MCAR(Missing Completely at at Random) 메커니즘 하에서 확률 $\rho$ 로 독립적으로 관찰된다.
• 모델 매개수를 추정하기 위해 최대우도추정법(MLE)과 변분근사(VE)를 사용하며, 누락된 다이애드를 고려해 우도를 수정한다.
• 모델 하에서 기대값과 관측된 간선 가중치의 편차를 제어하기 위해 하위지수 농도 불등식을 적용한다.
• 진짜 할당과 가까운 구성 수의 수를 제어하고 국소 식별성을 확보하기 위해 잠재 할당 벡터 $\mathbf{z}^\star$ 에 대한 규칙성 조건을 도입한다.
• 다항비율의 국소 점근정규성을 활용해 진짜 구성과 다른 구성 간의 우도비를 제한한다.
• 조건 $\rho \gg \log(n)/n$ 하에서 추정 오차가 $n^{-1/2}$ 속도로 분포 수렴함을 보여 점근정규성을 도출한다.

실험 결과

연구 질문

• RQ1 값이 부여된 간선을 가진 스토케스틱 블록 모델에서 MLE와 변분추정법이 일치하기 위한 샘플링 조건은 무엇인가?
• RQ2 특히 무한대를 가질 수 있는 간선 가중치에 대해, 간선이 무작위로 누락될 경우 추정법의 점근정규성을 확립할 수 있는가?
• RQ3 샘플링 확률 $\rho$ 는 추정법의 수렴 속도와 점근분포에 어떤 영향을 미치는가?
• RQ4 누락된 데이터 하에서 무한대를 가질 수 있는 비정규 분포의 간선 가중치를 다루기 위해 농도 불등식에 어떤 수정이 필요한가?
• RQ5 이진 SBM에 대한 이론적 보장이 부분 관찰된 상황에서 가중치가 부여된 SBM으로 얼마나 확장될 수 있는가?

주요 결과

• 값이 부여된 간선을 가진 스토케스틱 블록 모델에서 최대우도추정법과 변분추정법은 MCAR 샘플링 하에서 $\rho \gg \log(n)/n$ 를 만족할 경우 일관성을 유지한다.
• 동일한 샘플링 조건 하에서 추정법의 점근정규성이 입증되었으며, 수렴 속도는 $n^{-1/2}$ 이다.
• 이론적 증명은 무한대를 가질 수 있는 비정규 분포의 랜덤 변수에서 유래된 가중치 합에 대한 하위지수 농도 불등식에 의존한다.
• 진짜 구성과 임의의 다른 구성 간의 우도비는 해밍 거리에 따라 지수적으로 감소하며, 이는 $\mathcal{O}_P(1)\exp\{M_{c/4}\|\mathbf{z}-\mathbf{z}^\star\|_0\}$ 로 제어된다.
• 농도 불등식과 점근정규성 이론을 수정함으로써 이론적 프레임워크는 이진 SBM의 결과를 무한대를 가질 수 있는 간선 가중치를 가진 가중치 네트워크로 성공적으로 확장한다.
• $\rho \gg \log(n)/n$ 조건은 누락된 다이애드의 수가 추정 과정를 지배하지 않음을 보장하며, 통계적 효율성을 유지한다.