[논문 리뷰] Regular Decomposition: an information and graph theoretic approach to stochastic block models

Hannu Reittu, Fülöp Bazsó외 1명|arXiv (Cornell University)|2017. 04. 24.

Complex Network Analysis Techniques참고 문헌 28인용 수 9

한 줄 요약

이 논문은 정보 이론적이고 그래프 이론적인 방법인 Regular Decomposition (RD)을 소개한다. 이는 확률적 블록 모델(SBMs)을 사용하여 대규모 밀도 그래프의 블록 구조를 탐지하기 위한 것이다. Szemerédi의 Regularity Lemma와 Minimum Description Length(MDL) 원리를 결합함으로써, 코드 길이를 최소화함으로써 최적의 블록 수를 식별한다. 이 코드 길이는 진짜 블록 수에 도달할 때 정점에 도달하며, 이는 대규모 네트워크에서 일관되고 실용적인 커뮤니티 탐지가 가능하게 한다.

ABSTRACT

A method for compression of large graphs and non-negative matrices to a block structure is proposed. Szemerédi's regularity lemma is used as heuristic motivation of the significance of stochastic block models. Another ingredient of the method is Rissanen's minimum description length principle (MDL). We propose practical algorithms and provide theoretical results on the accuracy of the method.

연구 동기 및 목표

• 확률적 블록 모델(SBMs)에서 생성된 대규모 밀도 그래프의 블록 구조를 탐지하기 위한 엄밀하고 일관된 방법을 개발하는 것.
• 정규성의 결정론적 정의를 확률적 SBM 기반 모델로 대체하여 Szemerédi의 Regularity Lemma를 실용적 네트워크 분석과 연결하는 것.
• 그래프 압축과 블록 구조 탐지에 Minimum Description Length(MDL) 원리를 적용하여 모델 선택의 일관성을 보장하는 것.
• 코드 길이의 정점 관찰을 통해 올바른 블록 수를 식별하는 실용적인 알고리즘을 제공하는 것.

제안 방법

• 대규모 그래프에서 블록 구조의 관련성을 정당화하기 위해 이론적 기초로 Szemerédi의 Regularity Lemma를 사용한다.
• 그래프의 총 코드 길이를 최소화함으로써 최적의 블록 구조를 선택하기 위해 Minimum Description Length(MDL) 원리를 적용한다.
• 두 부분으로 나누어진 MDL 코드를 사용한다: 하나는 블록 구조에 대해, 다른 하나는 블록 내부의 간선 확률에 대해.
• Chernoff 한계와 Kullback-Leibler 발산을 사용하여 간선 밀도의 이탈 확률을 분석함으로써, 고려할 수 있는 확률로 ε-정규성을 확보한다.
• 점점 증가하는 모델 복잡도를 도출하고, 진짜 블록 수에 도달할 때까지 코드 길이가 감소하고 나서 정점에 도달함을 보여준다.
• 매트릭스에 대해 포isson 분포 기반 구성 방식을 적용함으로써, 그래프를 초월한 적용 가능성을 넓힌다.

실험 결과

연구 질문

• RQ1 그래프 크기가 증가함에 따라, MDL 원리가 확률적 블록 모델에서 진짜 블록 수를 일관되게 탐지하는 데 사용될 수 있는가?
• RQ2 SBM에서 생성된 그래프의 코드 길이는 블록 수가 증가함에 따라 단조롭게 감소하고, 진짜 블록 수에 도달할 때 정점에 도달하는가?
• RQ3 Szemerédi의 Regularity Lemma와 MDL의 조합이 대규모 밀도 그래프에서 일관되고 실용적인 블록 탐지 가능성을 어떻게 보장하는가?
• RQ4 진짜 블록 구조와 관련된 코드 길이의 渐近적 행동은 무엇이며, 이를 어떻게 모델 선택 기준으로 사용할 수 있는가?
• RQ5 시뮬레이션을 통해, 이 방법이 유한하고 현실적인 그래프 크기에서 얼마나 효과적인가?

주요 결과

• 그래프의 코드 길이는 블록 수가 증가함에 따라 진짜 블록 수에 도달할 때까지 단조롭게 감소하고, 이후에는 추가 감소가 거의 없이 정점에 도달한다.
• 모든 ε > 0에 대해, 그래프 크기 n이 증가함에 따라 n >> ε⁻⁴를 만족하면, 분할이 고려할 수 있는 확률로 ε-정규성이 된다.
• 코드 길이가 진짜 블록 수에서 정점에 도달함으로써, 코드 길이의 굴곡점(Inflection point)을 관찰함으로써 올바른 블록 구조를 실용적으로 식별할 수 있는 알고리즘이 가능해진다.
• 시뮬레이션 결과, 코드 길이의 정점 현상은 비교적 작은 크기의 그래프에서도 관찰 가능하며, 이는 방법의 실용성을 검증한다.
• 이 방법은 일관성 있다: n → ∞일 때, MDL 기반의 블록 탐지가 고려할 수 있는 확률로 진짜 블록 수를 정확히 식별한다.
• Poissonian 블록 모델 변형은 핵심 이론적 성질을 유지하며, KL 발산과 엔트로피 함수를 포isson 분포에 맞게 조정하여 매트릭스 압축에 적용된다.