[논문 리뷰] Inferences on Mixing Probabilities and Ranking in Mixed-Membership Models

Sohom Bhattacharya, Jianqing Fan외 1명|arXiv (Cornell University)|2023. 08. 29.

Complex Network Analysis TechniquesPhysics and Astronomy인용 수 3

한 줄 요약

이 논문은 혼합 구성성 네트워크 모델(DCMM)에서 노드의 혼합 확률에 대한 유한 표본 전개를 제안하여, 노드 소속 프로파일에 대한 점근적 추론 및 신뢰구간을 가능하게 한다. 또한, 커뮤니티 소속에 기반한 노드 순위를 통계적으로 평가하기 위해 멀티플라이어 부트스트랩 기반의 순위 추론 프레임워크를 도입하였으며, 이는 시뮬레이션 및 실제 네트워크 데이터를 통해 검증되었다.

ABSTRACT

Network data is prevalent in numerous big data applications including economics and health networks where it is of prime importance to understand the latent structure of network. In this paper, we model the network using the Degree-Corrected Mixed Membership (DCMM) model. In DCMM model, for each node $i$, there exists a membership vector $\boldsymbolπ_ i = (\boldsymbolπ_i(1), \boldsymbolπ_i(2),\ldots, \boldsymbolπ_i(K))$, where $\boldsymbolπ_i(k)$ denotes the weight that node $i$ puts in community $k$. We derive novel finite-sample expansion for the $\boldsymbolπ_i(k)$s which allows us to obtain asymptotic distributions and confidence interval of the membership mixing probabilities and other related population quantities. This fills an important gap on uncertainty quantification on the membership profile. We further develop a ranking scheme of the vertices based on the membership mixing probabilities on certain communities and perform relevant statistical inferences. A multiplier bootstrap method is proposed for ranking inference of individual member's profile with respect to a given community. The validity of our theoretical results is further demonstrated by via numerical experiments in both real and synthetic data examples.

연구 동기 및 목표

• 혼합 구성성 네트워크 모델에서 노드 혼합 확률에 대한 불확실성 정량화의 핵심 격차를 메운다.
• 특정 커뮤니티 내에서의 소속 프로파일에 기반해 노드를 순위 매길 수 있는 통계적 프레임워크를 개발한다.
• 예를 들어 한 노드가 다른 노드보다 주어진 커뮤니티에서 더 두드러진지 여부를 판단하는 등의 노드 상대 순위에 대한 타당한 추론을 가능하게 한다.
• 유한 표본 전개를 활용해 소속 비율에 대한 신뢰구간 및 가설 검정에 대한 이론적 보장을 제공한다.
• 기존의 스펙트럴 클러스터링 및 변화 이론을 확장하여, 추론을 위한 $ l_{\infty} $ 및 $ l_{2,\infty} $ 스타일의 오차 한계를 지원한다.

제안 방법

• 하나의 노드 $ i $ 가 커뮤니티 $ k $ 에 속할 혼합 확률인 $ \boldsymbol{\pi}_i(k) $ 에 대해, 부분공간 변화 이론을 활용해 새로운 유한 표본 전개를 유도한다.
• 스펙트럴 클러스터링을 활용해 소속 프로파일을 추정하고, $ l_{\infty} $ 및 $ l_{2,\infty} $ 오차 한계를 제어할 수 있는 추정량을 구성한다.
• 노드 순위에 대한 추정 분포를 근사하기 위해 멀티플라이어 부트스트랩 방법을 제안하여, 노드 순위에 대한 타당한 추론을 가능하게 한다.
• 노드 순위 추론을 위해 추적 기반 검정 통계량 $ \mathcal{T} = \max_{j \neq i} \left| \frac{\text{Tr}[(\boldsymbol{C}^{\boldsymbol{\pi}}_{j,k} - \boldsymbol{C}^{\boldsymbol{\pi}}_{i,k}) \boldsymbol{W}]}{\sqrt{V_{\boldsymbol{C}^{\boldsymbol{\pi}}_{j,k} - \boldsymbol{C}^{\boldsymbol{\pi}}_{i,k}}}} \right| $ 을 사용한다.
• 유한 표본 전개를 기반으로, $ \varepsilon_3 $ 와 $ \|\boldsymbol{C}^{\boldsymbol{\pi}}_{j,k} - \boldsymbol{C}^{\boldsymbol{\pi}}_{i,k}\|_{\text{max}} $ 에 대한 조건 하에, 농도 불등식과 가우시안 혼합체와의 비교를 통해 부트스트랩의 점근적 타당성을 확립한다.
• 시뮬레이션 및 실제 네트워크 데이터를 활용한 수치 실험을 통해 이론적 결과를 검증하였으며, 이는 정확한 신뢰구간 커버리지 및 신뢰할 수 있는 순위 추론을 보여준다.

Figure 1: Histograms and Q-Q plots for validating the normality of $(\widehat{\boldsymbol{\pi}}_{1}(1)-\boldsymbol{\pi}_{1}(1))/\sqrt{\widehat{\textbf{var}}(\widehat{\boldsymbol{C}}^{\boldsymbol{\pi}}_{1,1})}$ . The orange curves in the first row of plots are the density of standard normal distribut

실험 결과

연구 질문

• RQ1 유한 표본 전개를 사용하여 DCMM 모델에서 노드 혼합 확률 $ \boldsymbol{\pi}_i(k) $ 에 대해 타당한 신뢰구간을 제공할 수 있는가?
• RQ2 특정 커뮤니티 내에서의 소속에 기반해 노드의 상대 순위에 대한 통계적 추론을 어떻게 수행할 수 있는가?
• RQ3 특정 커뮤니티 내에서 두 노드의 소속 프로파일을 비교하기 위해 사용하는 검정 통계량의 점근적 분포는 무엇인가?
• RQ4 제안된 멀티플라이어 부트스트랩 방법은 DCMM 모델 하에서 순위 추론을 위한 타당한 임계값을 제공하는가?
• RQ5 추론 프레임워크의 점근적 타당성을 확보하기 위한 네트워크 구조 및 추정 오차에 대한 충분한 조건는 무엇인가?

주요 결과

• 논문은 $ \boldsymbol{\pi}_i(k) $ 에 대해 유한 표본 전개를 확립하여, 개별 혼합 확률에 대한 점근적 정규성과 신뢰구간 구성이 가능해졌다.
• 제안된 멀티플라이어 부트스트랩 방법은 순위 추론에 대해 점근적으로 타당하며, 정규성 조건 하에 $ \left| \mathbb{P}(\mathcal{T} > c_{1-\alpha}) - \alpha \right| \to 0 $ 이 성립한다.
• 이론적 보장은 $ \varepsilon_3 $, $ \|\boldsymbol{C}^{\boldsymbol{\pi}}_{j,k} - \boldsymbol{C}^{\boldsymbol{\pi}}_{i,k}\|_{\text{max}} $ 및 $ \log n $ 스케일링 오차 항을 포함하는 조건 하에 유도되었다.
• 시뮬레이션 및 실제 네트워크에서의 수치 실험을 통해 정확한 신뢰구간 커버리지 및 신뢰할 수 있는 순위 추론이 확인되었다.
• 금융 및 사회 네트워크 분야에서 응용 가능한 바탕이 되는, 한 노드가 주어진 커뮤니티에서 다른 노드보다 더 두드러진지 여부와 같은 질문에 대한 추론을 성공적으로 지원하였다.
• 부트스트랩 근사 오차에 대해 $ o(1) $ 수렴을 달성하여, 대규모 네트워크에 대한 강건성을 확보하였다.

Figure 2: Left: Scatter plot of $\widehat{\boldsymbol{r}}_{i}$ for $i\in[n]$ . Several representative companies in each corners are highlighted. Right: The test results of $H_{01},H_{02}$ and $H_{03}$ . Red/blue/green means that $H_{01}$ / $H_{02}$ / $H_{03}$ is rejected while grey means that none o