[논문 리뷰] Stochastic block model entropy and broadcasting on trees with survey

Emmanuel Abbé, Elisabetta Cornacchia외 2명|arXiv (Cornell University)|2021. 01. 29.

Cellular Automata and Applications참고 문헌 16인용 수 6

한 줄 요약

이 논문은 전형적인 희박하고 정렬된 경우에서 신호 대 잡음비(SNR)가 (1, 3.513) 구간을 제외한 모든 경우에 대해 스토하스틱 블록 모델(SBM)의 점근 엔트로피를 규명한다. 이 구간에서는 근사치를 제공한다. 이는 SBM 엔트로피를 손실 정보가 있는 나무 기반 방출 방송 모델(설문)과 연결함으로써 달성되며, SNR > 3.513 또는 < 1인 경우 경계의 무관성과 BP 고정점의 유일성을 증명함으로써, 나머지 좁은 창문 외에는 모두 증명이 완료된다.

ABSTRACT

The limit of the entropy in the stochastic block model (SBM) has been characterized in the sparse regime for the special case of disassortative communities [COKPZ17] and for the classical case of assortative communities but in the dense regime [DAM16]. The problem has not been closed in the classical sparse and assortative case. This paper establishes the result in this case for any SNR besides for the interval (1, 3.513). It further gives an approximation to the limit in this window. The result is obtained by expressing the global SBM entropy as an integral of local tree entropies in a broadcasting on tree model with erasure side-information. The main technical advancement then relies on showing the irrelevance of the boundary in such a model, also studied with variants in [KMS16], [MNS16] and [MX15]. In particular, we establish the uniqueness of the BP fixed point in the survey model for any SNR above 3.513 or below 1. This only leaves a narrow region in the plane between SNR and survey strength where the uniqueness of BP conjectured in these papers remains unproved.

연구 동기 및 목표

• 전형적인 희박하고 정렬된 상황에서 대칭 스토하스틱 블록 모델(SBM)의 점근 엔트로피를 특성화하는 데에 남아 있는 격차를 메운다.
• 기존 결과가 비정렬 공동체 또는 밀도 높은 영역에만 적용되므로 이를 확장한다.
• SBM 엔트로피와 측정 정보(설문)가 있는 나무에서의 방출 방송 간의 연결 고리를 설정한다.
• SNR > 3.513 또는 SNR < 1인 경우 설문 모델에서 믿음 전파(BP) 고정점의 유일성을 증명한다.
• BP 고정점의 유일성이 아직 증명되지 않은 나머지 열린 영역(SNR ∈ (1, 3.513))을 규명한다.

제안 방법

• 손실 정보가 있는 나무 기반 방송 모델에서 局부 나무 엔트로피의 적분으로 전역 SBM 엔트로피를 표현한다.
• SBM와 나무 모델 간의 표준 결합을 사용하여 두 시스템 간의 관계를 설정한다.
• φ(r) = −exp(−r/2)를 사용한 잠재 함수 방법을 적용하여 BP 메시지의 수렴성을 분석한다.
• 강한 볼록성과 모멘트 유계를 이용하여 먼 경계 조건의 影響이 한없이 감소함을 보여 경계의 무관성을 증명한다.
• 메시지 차이의 감쇠에 기반한 수축 원리에 의해 BP 고정점의 유일성을 확립한다.
• 이징 모델 이론과 아메니블 그래프 이론의 결과를 활용하여, BEC 설문이 있는 일반적인 아메니블 그래프로 경계의 무관성을 확장한다.

실험 결과

연구 질문

• RQ1 모든 신호 대 잡음비(SNR)에 대해 희박하고 정렬된 스토하스틱 블록 모델의 점근 엔트로피는 무엇인가?
• RQ2 측정 정보(설문)가 나무 기반 방송 모델에서 공동체 구조 복원에 어떤 영향을 미치는가?
• RQ3 설문 모델에서 믿음 전파(BP) 고정점의 유일성이 성립하는 조건은 무엇인가?
• RQ4 SBM을 손실 정보가 있는 나무로 매핑했을 때 경계의 무관성 성질이 유지되는가, 특히 희박한 영역에서 성립하는가?
• RQ5 (SNR, 설문 강도) 평면에서 BP 고정점의 유일성이 아직 증명되지 않은 정확한 영역은 어디인가?

주요 결과

• SNR가 (1, 3.513) 구간을 제외한 모든 경우에 대해 희박하고 정렬된 SBM의 점근 엔트로피가 특성화되었으며, 이 구간에서는 근사치가 제공된다.
• 논문은 SNR > 3.513 또는 SNR < 1인 경우 설문 모델에서 믿음 전파(BP) 고정점의 유일성을 증명하여 이 영역에서 BP 수렴성을 확립한다.
• 손실 정보가 있는 나무로 매핑된 SBM에서 경계의 무관성이 성립하며, 이는 먼 경계 조건이 루트 추정에 영향을 주지 않는다는 것을 의미한다.
• 정규 나무에서는 dθ² < 1일 때 메시지 차이가 C₁ < 1인 비율로 기하급수적으로 감쇠하여 수렴을 보장한다.
• 포아송 후손을 가진 갈튼-워슨 나무 및 BEC 설문가 있는 아메니블 그래프로 결과를 확장하였으며, 이 경우 경계의 무관성은 체적 성장과 등면적 성질을 통해 증명된다.
• BP 고정점의 유일성이 아직 증명되지 않은 유일한 열린 영역은 좁은 구간 SNR ∈ (1, 3.513)이며, 이에 대한 추측은 아직 증명되지 않았다.