[논문 리뷰] Consistency of adjacency spectral embedding for the mixed membership stochastic blockmodel

Patrick Rubin‐Delanchy, Carey E. Priebe외 1명|arXiv (Cornell University)|2017. 05. 12.

Complex Network Analysis Techniques참고 문헌 22인용 수 12

한 줄 요약

이 논문은 무방향 혼합 소속 확률 블록 모델(MMSBM)에 대해 인접성 스펙트럼 임bedding(ASE)과 최소 부피 둘러싸는 볼록 다면체(MVECP) 피팅을 연결한 일致성(consistency)을 확립한다. MMSBM을 무작위 점곱 그래프(RDPG)와 연결함으로써 저자들은 $2\to\infty$ 노름 결과를 사용하여 일치성을 증명하고, 아티클 아더레타 등(2016)의 중심극한정리에 기반해 유한표본 편향을 보정함으로써 단순하고 확장 가능한 절차를 통해 渐近적으로 일致하는 추정을 달성한다.

ABSTRACT

The mixed membership stochastic blockmodel is a statistical model for a graph, which extends the stochastic blockmodel by allowing every node to randomly choose a different community each time a decision of whether to form an edge is made. Whereas spectral analysis for the stochastic blockmodel is increasingly well established, theory for the mixed membership case is considerably less developed. Here we show that adjacency spectral embedding into $\mathbb{R}^k$, followed by fitting the minimum volume enclosing convex $k$-polytope to the $k-1$ principal components, leads to a consistent estimate of a $k$-community mixed membership stochastic blockmodel. The key is to identify a direct correspondence between the mixed membership stochastic blockmodel and the random dot product graph, which greatly facilitates theoretical analysis. Specifically, a $2 ightarrow \infty$ norm and central limit theorem for the random dot product graph are exploited to respectively show consistency and partially correct the bias of the procedure.

연구 동기 및 목표

• 혼합 소속 확률 블록 모델(MMSBM)에 대한 스펙트럼 임베딩의 이론적 일치성을 확립하는 것 — 이는 널리 사용되지만 이론적으로 다소 미흡한 네트워크 모델이다.
• 스펙트럼 방법과 MMSBM 사이의 격차를 메우기 위해 MMSBM이 무작위 점곱 그래프(RDPG)와 동치임을 보여, 기존 RDPG 이론의 활용을 가능하게 한다.
• 단순하고 확장 가능한 추정 절차를 제안하는 것 — 이는 인접성 스펙트럼 임베딩과 MVECP 피팅에 기반하며, 일관된 커뮤니티 탐지 성능을 달성한다.
• 스펙트럼 임베딩 이론에서 유도된 점근 정규성에 기반해 MMSBM 추정의 유한표본 편향을 정량화하고 보정하는 것.
• MCMC나 변분 추론과 같은 복잡한 추론 방법에 대한 이론적으로 탄탄하고 계산 효율적인 대안을 제공하는 것 — MMSBM에 대해

제안 방법

• 노드 소속 벡터를 $\mathbb{R}^k$ 내 잠재 위치로 매핑하여 MMSBM을 무작위 점곱 그래프(RDPG)로 재구성한다.
• 관측된 인접행렬 $A$에 대해 인접성 스펙트럼 임베딩(ASE)을 적용하여 추정된 잠재 위치 $\hat{X}_i \in \mathbb{R}^k$를 산출한다.
• 임bed된 점들의 $k-1$차 주성분에 대해 최소 부피 둘러싸는 볼록 $k$-다면체(MVECP)를 피팅하여 커뮤니티 구조를 추정한다.
• RDPG 스펙트럼 임베딩에 대한 $2\to\infty$ 노름 결과를 사용하여 일치성을 확립함으로써, 추정된 잠재 위치가 진짜 값으로 수렴함을 보장한다.
• Athreya 등(2016)의 ASE에 대한 중심극한정리에 기반해 유한표본 편향을 정량화하고 보정하며, 이는 $n^{-1/2}\log^{1/2}(n)$ 비례하는 수축 절차로 이어진다.
• 수축 속도는 임베딩 오차의 점근 정규성에서 유도되며, MVECP 정점에 적용되어 편향을 감소시킨다.

실험 결과

연구 질문

• RQ1 인접성 스펙트럼 임베딩과 MVECP 피팅이 무방향 혼합 소속 확률 블록 모델(MMSBM)에 대해 일관된 추정자인가?
• RQ2 MMSBM을 공식적으로 무작위 점곱 그래프(RDPG)와 연결할 수 있는가? 이를 통해 기존 스펙트럼 이론을 활용할 수 있는가?
• RQ3 이 스펙트럼 절차 하에서 추정된 커뮤니티 구조의 수렴 속도는 무엇인가?
• RQ4 MVECP 추정자에서의 유한표본 편향은 어떻게 정량화하고 보정할 수 있는가?
• RQ5 점근 정규성에 기반한 수축 절차는 유한 표본에서 추정 정확도를 향상시키는가?

주요 결과

• 제안된 스펙트럼 임베딩과 MVECP 피팅 절차는 정규성 조건 하에서 MMSBM에 대해 일관성을 보이며, 추정된 잠재 위치가 진짜 커뮤니티 중심점으로 수렴한다.
• RDPG 스펙트럼 임베딩에 대한 $2\to\infty$ 노름 결과는 추정된 잠재 위치와 진짜 값 간의 최대 이격이 $n \to \infty$일 때 사라짐을 보장한다.
• ASE에 대한 중심극한정리에 따르면, 임베딩된 점에서의 추정 오차는 공분산 $\Psi(x)$를 가진 점근 정규분포를 이룬다. 이는 편향 정량화를 가능하게 한다.
• MVECP 추정자에서의 유한표본 편향은 $n^{-1/2}\log^{1/2}(n)$ 속도로 감소하며, 시뮬레이션 연구로 확인되었다.
• 유도된 속도 $n^{-1/2}\log^{1/2}(n)$로 MVECP를 중심점 쪽으로 수축시키는 것은 고정 속도 수축 또는 수축 없이 그대로 사용하는 것보다 유의미하게 추정 정확도를 향상시킨다.
• 오직 세 줄의 코드(고유분해를 제외하고)로도 성능이 뛰어나, MCMC나 변분 추론과 같은 복잡한 추론 방법에 대한 이론적으로 탄탄하고 확장 가능한 대안이 된다.