[논문 리뷰] Optimal Rates for Community Estimation in the Weighted Stochastic Block Model

Min Xu, Varun Jog외 1명|arXiv (Cornell University)|2017. 06. 05.

Complex Network Analysis Techniques참고 문헌 38인용 수 9

한 줄 요약

이 논문은 간선 가중치가 공동체 소속에 따라 알려지지 않은 연속 분포에서 생성되는 가중치가 있는 스토하스틱 블록 모델(WSBM)에서 커뮤니티 추정의 최적 비율을 설정한다. 간선 가중치 분포 간의 Rényi 분산의 1/2차 수준을 기반으로 한 이산화 기반의 계산적으로 효율적이고 완전히 적응형 알고리즘을 제안하며, 이 알고리즘은 이론적으로 최적의 잘못 분류 오차 비율을 달성한다.

ABSTRACT

Community identification in a network is an important problem in fields such as social science, neuroscience, and genetics. Over the past decade, stochastic block models (SBMs) have emerged as a popular statistical framework for this problem. However, SBMs have an important limitation in that they are suited only for networks with unweighted edges; in various scientific applications, disregarding the edge weights may result in a loss of valuable information. We study a weighted generalization of the SBM, in which observations are collected in the form of a weighted adjacency matrix and the weight of each edge is generated independently from an unknown probability density determined by the community membership of its endpoints. We characterize the optimal rate of misclustering error of the weighted SBM in terms of the Renyi divergence of order 1/2 between the weight distributions of within-community and between-community edges, substantially generalizing existing results for unweighted SBMs. Furthermore, we present a computationally tractable algorithm based on discretization that achieves the optimal error rate. Our method is adaptive in the sense that the algorithm, without assuming knowledge of the weight densities, performs as well as the best algorithm that knows the weight densities.

연구 동기 및 목표

• 커뮤니티 소속에 따라 알려지지 않은 분포에서 생성되는 연속적인 간선 가중치를 가진 가중치가 있는 스토하스틱 블록 모델(WSBM)에서 잘못 분류 오차의 최적 비율을 규명하는 것.
• 기본적인 가중치 밀도 분포에 대한 사전 지식이 필요하지 않은, WSBM에서 커뮤니티 추정을 위한 계산적으로 해석 가능한 알고리즘을 개발하는 것.
• WSBM 프레임워크에서 어떤 알고리즘에 대해서도 잘못 분류 오차 비율에 대한 기본적인 정보 이론적 하한을 설정하는 것.
• 이전의 비가중치 SBM 결과를 일반화하여, 최적 비율이 내부 및 외부 커뮤니티 간의 간선 가중치 밀도 간의 Rényi 분산의 1/2차 수준에 의해 결정됨을 보여주는 것.
• 제안된 알고리즘이 실제론 가중치 밀도를 완전히 알고 있는 최고의 알고리즘과 동일한 성능을 내는 적응형임을 보여주는 것.

제안 방법

• 내부 커뮤니티와 외부 커뮤니티 간의 간선에 대해 각각 알려지지 않은 연속 확률 밀도에서 독립적으로 간선 가중치가 추출되는 가중치가 있는 스토하스틱 블록 모델을 제안한다.
• 내부 및 외부 커뮤니티 간의 간선 확률 및 가중치 밀도의 혼합 분포 간의 Rényi 분산의 1/2차 수준을 사용하여 순열 불변 알고리즘을 기반으로 한 잘못 분류 오차 비율에 대한 정보 이론적 하한을 유도한다.
• 간선 가중치 공간을 버킷으로 나누는 이산화 기반 알고리즘을 도입하며, 이를 통해 유도된 이산 인접 행렬에 스펙트럼 클러스터링을 적용한다.
• 알고리즘의 수렴 속도가 유도된 하한과 일치함을 보여주어 최적성의 증명을 한다.
• 내부 및 외부 커뮤니티 간의 간선 가중치 분포 간의 분리 정도를 측정하는 핵심 척도로 Rényi 분산의 1/2차 수준을 사용한다.
• 모수적 가정 없이 임의의 알려지지 않은 밀도를 다룰 수 있는 비모수 기법을 활용하여 광범위한 적용 가능성을 확보한다.

실험 결과

연구 질문

• RQ1 연속적인 간선 가중치를 가진 가중치가 있는 스토하스틱 블록 모델에서 잘못 분류 오차의 기본 한계(최적 비율)는 무엇인가?
• RQ2 기본적인 가중치 밀도 분포에 대한 사전 지식 없이도 이 최적 비율을 달성할 수 있는 계산적으로 효율적인 알고리즘이 존재하는가?
• RQ3 비가중치 SBM에서의 기존 결과를 일반화할 때, 가중치가 있는 SBM에서의 최적 비율은 비가중치 SBM에서 간선 확률 차이에 의존하는 것과 어떻게 다를까?
• RQ4 Rényi 분산의 1/2차 수준은 WSBM에서 내부 및 외부 커뮤니티 간의 간선 가중치 분포 간의 분리 정도를 어떻게 특징짓는가?
• RQ5 가중치 밀도를 완전히 알고 있는 최고의 알고리즘과 동일한 성능을 내는 적응형 알고리즘을 설계하는 것이 가능한가?

주요 결과

• 가중치가 있는 스토하스틱 블록 모델에서 잘못 분류 오차의 최적 비율은 내부 및 외부 커뮤니티 간의 간선 확률 및 가중치 밀도 혼합 분포 간의 Rényi 분산의 1/2차 수준에 의해 결정된다.
• 제안된 이산화 기반 알고리즘은 최적 오차 비율을 달성하며, 완전히 적응형이므로 진정으로 알려진 가중치 밀도를 알고 있는 최고의 알고리즘과 동일한 성능을 낸다.
• 잘못 분류 오차에 대한 정보 이론적 하한은 모든 순열 불변 알고리즘에 대해 성립하며, 최소 최대 설정이 아닌 전체 매개변수 공간에 적용된다.
• 최적 비율은 이전의 비가중치 SBM 결과를 일반화하며, 이 경우 최적 비율은 두 개의 베르누이 분포 간의 Rényi 분산의 1/2차 수준에 의해 결정된다.
• 분석 결과, 평균의 분리가 없더라도 분포의 분산, 형태 또는 고차원 모멘트의 차이를 활용하여 커뮤니티 탐지 성능을 향상시킬 수 있음을 보여준다.
• 이론적 하한은 Rényi 분산과 로그 부등식을 사용하여 유도되었으며, 근사 오차를 엄밀하게 제어하기 위해 레마 H.1과 H.2를 활용하여 비율의 최적성 보장한다.