[논문 리뷰] Achieving Exact Cluster Recovery Threshold via Semidefinite Programming: Extensions

Bruce Hajek, Yihong Wu외 1명|arXiv (Cornell University)|2015. 02. 26.

Advanced Causal Inference Techniques참고 문헌 41인용 수 40

한 줄 요약

이 논문은 비대칭 이중 클러스터 SBM, 동일 크기의 그룹을 가진 다중 클러스터 SBM, Erdős-Rényi 배경 그래프를 가진 캐싱 블록 모델을 포함한 여러 확률적 블록 모델 변형에서, 준거형 프로그래밍(SDP) 리 릴렉세이션 방법이 정확한 복원 임계점을 달성함을 입증한다. 주요 기여는 일반적인 클러스터 구조와 이질적 요소를 고려할 때, 최대우도推정기와 동일한 날카로운 임계조건 하에서 SDP가 최적의 복원을 달성함을 입증한 것으로, 이는 일반적인 클러스터 구조에 대한 이중 증명자 구성 기법을 사용한 것이다.

ABSTRACT

Resolving a conjecture of Abbe, Bandeira and Hall, the authors have recently shown that the semidefinite programming (SDP) relaxation of the maximum likelihood estimator achieves the sharp threshold for exactly recovering the community structure under the binary stochastic block model of two equal-sized clusters. The same was shown for the case of a single cluster and outliers. Extending the proof techniques, in this paper it is shown that SDP relaxations also achieve the sharp recovery threshold in the following cases: (1) Binary stochastic block model with two clusters of sizes proportional to network size but not necessarily equal; (2) Stochastic block model with a fixed number of equal-sized clusters; (3) Binary censored block model with the background graph being Erdős-Rényi. Furthermore, a sufficient condition is given for an SDP procedure to achieve exact recovery for the general case of a fixed number of clusters plus outliers. These results demonstrate the versatility of SDP relaxation as a simple, general purpose, computationally feasible methodology for community detection.

연구 동기 및 목표

• 이중 클러스터 SBM에서 정확한 복원 임계점에 대한 추측을 준거형 프로그래밍을 통해 해결하기 위해.
• 등규모 클러스터를 넘어서 비대칭 클러스터 크기 및 다중 클러스터 경우로까지 SDP의 최적성 확장을 위해.
• Erdős-Rényi 그래프를 배경으로 하는 캐싱 블록 모델에서 SDP가 정확한 복원을 달성함을 입증하여 열린 문제를 해결하기 위해.
• 고정된 수의 비등규모 클러스터와 이질적 요소를 포함한 일반적인 설정에서 SDP가 정확한 복원을 달성할 수 있는 충분조건을 제시하기 위해.
• 클러스터 크기가 알려지지 않은 경우에도 SDP가 최적의 복원 성능 유지를 위해 페널티 파라미터를 일致한 추정기로 조정함으로써 적응형으로 만들 수 있는지 보여주기 위해.

제안 방법

• 정확한 복원이 날카로운 임계조건 하에서 달성됨을 입증하기 위해 SDP 타당성에 대한 이중 증명자 구성하기.
• 집중 불등식과 Berry-Esseen 한계를 사용하여 추정된 클러스터 무게와 크기의 일致성 검증하기.
• 클러스터 크기와 간선 무게 분포의 경험적 추정치를 사용하여 SDP 설정 내 페널티 파라미터 조정하기.
• 등규모 클러스터에 대한 이전 연구의 증명 기법을 비대칭 및 다중 클러스터 구성으로 확장하기.
• 데이터 기반의 페널티 파라미터를 도입하여, 이가 확률적으로 최적의 결정론적 임계점으로 수렴함을 보여주기.
• 알 수 없는 클러스터 크기를 다루기 위해 라그랑주 리 릴렉세이션 적용하기. 이로써 등규모 클러스터의 임계조건이 여전히 정확한 복원을 위한 충분조건로 유지됨을 보여주기.

실험 결과

연구 질문

• RQ1 비대칭 크기의 두 클러스터를 가진 이진 스토하스틱 블록 모델에서 SDP가 비등규모 클러스터의 경우에도 정확한 복원 임계점을 달성할 수 있는가?
• RQ2 r개의 등규모 클러스터를 가진 다중 클러스터 스토하스틱 블록 모델에서 SDP가 최적의 복원을 달성하는가?
• RQ3 Erdős-Rényi 배경 그래프를 가진 캐싱 블록 모델에서 최적의 복원 임계점이 SDP를 통해 달성 가능한가?
• RQ4 고정된 수의 비등규모 클러스터와 이질적 요소를 포함한 일반적인 경우에서 SDP가 정확한 복원을 보장할 수 있는 충분조건는 무엇인가?
• RQ5 클러스터 크기가 알려지지 않은 경우에도 SDP가 최적의 복원 성능을 유지하면서 적응형으로 작동할 수 있는가?

주요 결과

• 비대칭 이중 클러스터 SBM에서 클러스터 크기가 n에 비례할 경우, SDP는 정보 이론적 임계점과 정확히 일치하는 정확한 복원을 달성한다.
• r개의 등규모 클러스터를 가진 경우(r ≥ 2 고정), SDP는 이중 클러스터 사례와 동일한 날카로운 임계조건 하에서 정확한 복원을 달성한다.
• Erdős-Rényi 배경 그래프를 가진 캐싱 블록 모델에서, SDP는 최적의 임계점에서 정확한 복원을 달성하며, 이는 열린 문제를 해결한 것이다.
• 클러스터 크기가 알려지지 않은 경우에도, 최소 클러스터 크기가 알려져 있고 페널티 파라미터가 적응적으로 추정된다면, SDP 절차는 여전히 최적이다.
• 이중 증명자 구성 기법은 다중 클러스터와 이질적 정점으로 일반화되어 성공적으로 적용되었으며, 통합된 분석 프레임워크를 가능하게 하였다.
• 클러스터 크기 ρ, 간선 무게 평균 w₊와 w₋에 대한 일치 추정기들이 구성되었으며, 이는 데이터 기반의 페널티 선택을 가능하게 하고, 渐近 최적성을 유지한다.