[논문 리뷰] Model-based clustering in networks with Stochastic Community Finding

Aaron F. McDaid, Thomas Brendan Murphy외 2명|arXiv (Cornell University)|2012. 05. 09.

Complex Network Analysis Techniques참고 문헌 18인용 수 7

한 줄 요약

이 논문은 표준 스토하스틱 블록 모델(SBM)의 제약된 변종인 스토하스틱 커뮤니티 파악(SCF)을 제안한다. 이 모델은 커뮤니티 탐지 성능을 향상시키기 위해 내부 클러스터 밀도를 외부 클러스터 밀도보다 더 높게 선호하도록 명시적으로 설계되어 있다. 전체 파라미터 축소가 불가능한 경우에도 특화된 메트로폴리스-하스팅스 MCMC 알고리즘을 통해, 제이크리의 케라테 클럽과 산프슨의 수도승 네트워크에서 기존의 표준 SBM이 차수에 따라 클러스터링하는 데 실패하는 상황에서도 진정한 커뮤니티 구조를 성공적으로 복원한다.

ABSTRACT

In the model-based clustering of networks, blockmodelling may be used to identify roles in the network. We identify a special case of the Stochastic Block Model (SBM) where we constrain the cluster-cluster interactions such that the density inside the clusters of nodes is expected to be greater than the density between clusters. This corresponds to the intuition behind community-finding methods, where nodes tend to clustered together if they link to each other. We call this model Stochastic Community Finding (SCF) and present an efficient MCMC algorithm which can cluster the nodes, given the network. The algorithm is evaluated on synthetic data and is applied to a social network of interactions at a karate club and at a monastery, demonstrating how the SCF finds the 'ground truth' clustering where sometimes the SBM does not. The SCF is only one possible form of constraint or specialization that may be applied to the SBM. In a more supervised context, it may be appropriate to use other specializations to guide the SBM.

연구 동기 및 목표

• 표준 스토하스틱 블록 모델(SBM)이 차수 또는 구조적 역할에 따라 노드를 클러스터링하는 경향이 있어 커뮤니티 구조 탐지에 한계를 보일 때 이를 해결하고자 한다.
• 커뮤니티 탐지의 직관을 명시적으로 강화하기 위해 클러스터 내부의 간선 밀도가 클러스터 간 밀도보다 높아야 한다는 조건을 도입하고자 한다.
• 전체 파라미터 축소가 분석적으로 가능하지 않은 경우에도 효율적인 MCMC 알고리즘을 설계하여 이 제약된 모델에서 사후 추론을 수행하고자 한다.
• 진정한 커뮤니티 구조가 알려진 시뮬레이션 데이터와 실제 사회 네트워크에서 방법을 평가하고자 한다.

제안 방법

• 블록 내부의 기대 간선 밀도(대각 블록)가 블록 간 밀도(비대각 블록)를 초과하도록 하는 제약 조건을 SBM에 도입하며, 이를 블록 밀도에 대한 사전분포로 수식화한다.
• 가중치가 부여된 네트워크에 적용할 수 있도록, 각 블록 별로 감마 분포를 가진 비율 파라미터를 갖는 포아송 간선 모델을 사용하여 SBM을 가중치가 있는 네트워크로 확장한다.
• 클러스터 할당과 블록 파라미터를 추출하는 메트로폴리스-하스팅스 MCMC 알고리즘을 개발하며, 파라미터의 비가역적 적분을 처리하기 위한 새로운 접근법을 사용한다.
• 혼합 및 수렴을 향상시키기 위해 할당 샘플러와 데이터 증강 기법을 활용하며, 전체 축소가 불가능한 상황에서도 효과적으로 작동한다.
• 역전이 없는 복잡한 차원의 MCMC 기법을 사용하기 위해 조건부 사후 분포의 구조를 활용하여, 복수 차원의 MCMC 기법을 설계한다.
• C++로 알고리즘을 구현하고, 시뮬레이션 데이터와 실제 네트워크 데이터(예: 제이크리의 케라테 클럽, 산프슨의 수도승)에 적용한다.

실험 결과

연구 질문

• RQ1 표준 SBM이 실패하는 네트워크에서 제약된 SBM의 변종이 커뮤니티 구조를 더 잘 복원할 수 있는가?
• RQ2 내부 클러스터 밀도를 강제로 높임으로써 진정한 커뮤니티 분할이 알려진 실제 사회 네트워크에서 클러스터링 정확도가 향상되는가?
• RQ3 전체 파라미터 축소가 분석적으로 가능하지 않은 경우에도 이 제약된 모델에 대해 효율적인 MCMC 알고리즘을 설계할 수 있는가?
• RQ4 SCF 모델은 실제 네트워크에서 클러스터 수 추정 및 진정한 파벌 식별에서 표준 SBM보다 어떻게 성능을 냈는가?
• RQ5 SCF의 모델 선택 성능은 K의 사전 설정에 얼마나 의존하는가? 그리고 모델 불확실성에 어떻게 대응하는가?

주요 결과

• 제이크리의 케라테 클럽에서 SCF는 클럽 분열 후 형성된 두 파벌을 정확히 식별하며, K=2일 때 MCMC 반복의 85.5%가 진정한 클러스터링에 수렴한다.
• 반면, 표준 SBM은 노드를 차수에 따라 클러스터링하여 9개의 고차수 노드를 한 클러스터, 25개의 저차수 노드를 다른 클러스터로 할당하며, 실제 커뮤니티 구조를 반영하지 못한다.
• 산프슨의 수도승 네트워크에서는 SCF가 반복의 88.5%에서 K=3을 추정하고, 보고된 파벌(충성파, 젊은 투르크, 외면자)을 69%의 경우에 일치시켰으며, 이는 SBM의 K=3일 때의 55%를 능가한다.
• SCF 모델은 SBM이 차수 이질성으로 인해 오도당할 수 있는 강한 커뮤니티 신호를 지닌 네트워크에서도 커뮤니티 구조를 성공적으로 복원한다.
• SCF는 케라테 클럽에서 진정한 클러스터 수를 신뢰성 있게 추정하지 못하며(K=5로 추정, K=2가 진정한 값), 이는 SCF 프레임워크 내에서 모델 선택에 대한 향후 연구가 필요함을 시사한다.
• 제안된 MCMC 알고리즘은 전체 파라미터 적분이 비가역적인 상황에서도 효율적인 추론을 가능하게 하며, 복수 차원의 RJMCMC에 대한 실질적인 대안을 제시한다.