[논문 리뷰] Convexified Modularity Maximization for Degree-corrected Stochastic Block Models

Yudong Chen, Xiaodong Li외 1명|arXiv (Cornell University)|2015. 12. 28.

Complex Network Analysis Techniques인용 수 9

한 줄 요약

이 논문은 차수 보정 스토케스틱 블록 모델(DCSBM) 하에서 커뮤니티 탐지에 대한 볼록 최적화 기반 방법인 볼록화된 모듈라리티 최대화(CMM)를 제안한다. 비볼록 모듈라리티 최대화 문제를 완화하고 이중 가중치가 부여된 ℓ₁-노름 k-메디안 절차를 적용하여, 평균 차수의 상한이 있는 희박한 네트워크에서도 근사 및 정확한 클러스터링에 대한 비점근 이론적 보장을 달성하며, 기존 최고 성능 수준을 유지하거나 초월한다.

ABSTRACT

The stochastic block model (SBM) is a popular framework for studying community detection in networks. This model is limited by the assumption that all nodes in the same community are statistically equivalent and have equal expected degrees. The degree-corrected stochastic block model (DCSBM) is a natural extension of SBM that allows for degree heterogeneity within communities. This paper proposes a convexified modularity maximization approach for estimating the hidden communities under DCSBM. Our approach is based on a convex programming relaxation of the classical (generalized) modularity maximization formulation, followed by a novel doubly-weighted $ \ell_1 $-norm $ k $-median procedure. We establish non-asymptotic theoretical guarantees for both approximate clustering and perfect clustering. Our approximate clustering results are insensitive to the minimum degree, and hold even in sparse regime with bounded average degrees. In the special case of SBM, these theoretical results match the best-known performance guarantees of computationally feasible algorithms. Numerically, we provide an efficient implementation of our algorithm, which is applied to both synthetic and real-world networks. Experiment results show that our method enjoys competitive performance compared to the state of the art in the literature.

연구 동기 및 목표

• 커뮤니티 내 차수 이질성을 다루지 못하는 스토케스틱 블록 모델(SBM)의 한계를 해결하기 위해.
• 차수 보정 스토케스틱 블록 모델(DCSBM) 하에서 계산적으로 실현 가능하고 통계적으로 강건한 커뮤니티 탐지 방법을 개발하기 위해.
• 특히 희박한 영역에서의 정확도를 확보하기 위해 DCSBM 하에서 클러스터링 정확도에 대한 비점근 이론적 보장을 수립하기 위해.
• 특히 노드 차수 이질성이 높은 네트워크에서 기존 방법에 비해 이론적 성능과 경험적 강건성을 향상시키기 위해.
• 볼록 완화와 가중치가 부여된 ℓ₁-노름 k-메디안 클러스터링을 융합하여 클러스터링 정확도와 계산 타당성을 향상시키기 위해.

제안 방법

• 기존의 모듈라리티 최대화 공식의 볼록 프ogramming 완화를 제안하여 최적화 문제의 해법 가능성을 높인다.
• 볼록 완화의 해를 개선하기 위해 새로운 이중 가중치가 부여된 ℓ₁-노름 k-메디안 클러스터링 절차를 도입한다.
• DCSBM 하에서 랜덤 행렬의 스펙트럼 노름을 제한하기 위해 대칭화 및 라데마처 행렬 기법을 사용한다.
• 탈라그랑드의 농도 불등식과 행렬 농도 경계(예: 트롭의 정리)를 적용하여 고확률 스펙트럼 노름 경계를 유도한다.
• 두 단계 접근법을 사용한다: 먼저 모듈라리티의 볼록 완화를 수행하고, 그 다음 노드별 가중치가 부여된 ℓ₁-노름 k-메디안 클러스터링을 통해 강건성을 향상시킨다.
• 스펙트럼 노름 제어와 행렬 농도 이론을 사용하여 클러스터링 오차에 대한 이론적 경계를 유도하며, 이는 희박한 그래프에서도 성능을 확보한다.

실험 결과

연구 질문

• RQ1 모듈라리티 최대화의 볼록 완화는 DCSBM 하에서 커뮤니티 탐지에 강력한 이론적 보장을 달성할 수 있는가?
• RQ2 제안된 방법은 평균 차수가 상한이 있는 희박한 네트워크에서도 정확도를 유지하는가?
• RQ3 이중 가중치가 부여된 ℓ₁-노름 k-메디안 절차는 기존의 스펙트럼 또는 모듈라리티 기반 방법에 비해 클러스터링 성능을 향상시킬 수 있는가?
• RQ4 실제 네트워크에서 흔한 차수 이질성과 허브 노드가 존재할 경우 이 방법은 어떻게 성능을 발휘하는가?
• RQ5 기존의 계산적으로 실현 가능한 알고리즘에 비해 DCSBM 하에서 이론적 보장이 동일하거나 초월할 수 있는가?

주요 결과

• 제안된 CMM 방법은 최소 노드 차수에 민감하지 않은 비점근 근사 클러스터링 보장을 달성한다.
• 이론적 결과는 평균 차수가 상한이 있는 희박한 영역에서도 성립하며, 이는 많은 기존 방법이 실패하는 영역이다.
• SBM의 특수한 경우에 대해 이론적 성능은 계산적으로 실현 가능한 알고리즘의 최고 성능 보장을 그대로 유지한다.
• 수치 실험 결과 CMM는 합성 네트워크와 실제 네트워크(예: 정치적 블로그 데이터셋) 모두에서 경쟁적인 성능을 보였다.
• 이론적 분석과 경험적 검증을 통해 차수 이질성과 이방성 노드에 대해 강건함을 입증하였다.
• 대칭화 및 행렬 농도 기법을 사용하여 랜덤 인접 행렬의 스펙트럼 노름에 대한 이론적 경계를 도출하였으며, 이는 강력한 클러스터링 오차 제어를 가능하게 한다.