[논문 리뷰] Descriptive vs. inferential community detection in networks: pitfalls, myths, and half-truths

Tiago P. Peixoto|arXiv (Cornell University)|2021. 11. 30.

Complex Network Analysis Techniques인용 수 13

한 줄 요약

이 논문은 서술적 공동체 탐지와 추론적 공동체 탐지 간의 차이를 명확히 하며, 서술적 방법—예를 들어 모듈러리티 최적화—가 통계적 함정으로 인해 추론 목적으로 사용될 경우 실패한다고 주장한다. 이는 생성 모델 기반의 추론적 방법(예: 스토하스틱 블록 모델)을 권장하여 네트워크 구조와 형성 메커니즘에 대해 통계적으로 타당하고 견고한 통찰을 제공한다.

ABSTRACT

Community detection is one of the most important methodological fields of network science, and one which has attracted a significant amount of attention over the past decades. This area deals with the automated division of a network into fundamental building blocks, with the objective of providing a summary of its large-scale structure. Despite its importance and widespread adoption, there is a noticeable gap between what is arguably the state-of-the-art and the methods that are actually used in practice in a variety of fields. Here we attempt to address this discrepancy by dividing existing methods according to whether they have a "descriptive" or an "inferential" goal. While descriptive methods find patterns in networks based on context-dependent notions of community structure, inferential methods articulate generative models, and attempt to fit them to data. In this way, they are able to provide insights into the mechanisms of network formation, and separate structure from randomness in a manner supported by statistical evidence. We review how employing descriptive methods with inferential aims is riddled with pitfalls and misleading answers, and thus should be in general avoided. We argue that inferential methods are more typically aligned with clearer scientific questions, yield more robust results, and should be in many cases preferred. We attempt to dispel some myths and half-truths often believed when community detection is employed in practice, in an effort to improve both the use of such methods as well as the interpretation of their results.

연구 동기 및 목표

• 서술적 공동체 탐지와 추론적 공동체 탐지 접근 방식 간의 근본적인 차이를 명확히 하기.
• 특히 모듈러리티 최적화와 같은 널리 사용되는 서술적 방법에 내재된 통계적 결함과 오해를 드러내기.
• 생성 모델 기반의 추론적 방법이 과학적 탐구와 더 잘 부합하며 더 신뢰할 수 있는 결과를 도출할 수 있음을 주장하기.
• 네트워크 과학에서 서술적 방법의 오용을 유지하는 데 기여하는 일반적인 오해와 반진실을 해소하기.
• 정확하고 통계적으로 타당한 공동체 탐지에 대해 원칙에 기반한 추론적 방법의 도입을 촉진하기.

제안 방법

• 공동체 탐지 방법을 서술적(의미에 따라 정의된 패턴 탐색 기반)과 추론적(생성 모델 기반의 모델 피팅 기반)으로 분류.
• 시험 기준: 네트워크 형성 원인을 설명하거나 구조와 무작위성을 분리하는 것이 목표라면, 추론적 방법이 필요하다.
• 스토하스틱 블록 모델(SBMs)을 통한 통계적 추론을 활용하여 데이터에 생성 모델을 피팅하고, 베이지안 증거, MDL, 또는 BIC를 통해 모델 선택을 수행.
• 추론적 방법이 무작위성과 모델 불확실성을 명시적으로 모델링함으로써 과적합과 해상도 한계 문제를 피할 수 있음을 보여줌.
• 마르코프 체인 몬테카를로(MCMC) 및 머지-스플릿 MCMC를 사용하여 공동체 분할에 대한 사후 추론을 수행.
• 모듈러리티 최적화, 스펙트럴 클러스터링, 공통 클러스터링과 같은 히우리스틱 접근 방식과 대조하여, 그들의 통계적 결함을 강조함.

실험 결과

연구 질문

• RQ1 서술적 탐지와 추론적 탐지의 차이점은 무엇이며, 이 구분이 과학적 타당성에 있어 왜 중요한가?
• RQ2 모듈러리티 최적화는 널리 사용되고 있지만, 추론 목적으로 사용될 경우 근본적으로 왜 잘못되어 있는가?
• RQ3 해상도 파rameter나 유의성 검정과 같은 일반적인 해결책들이 과적합과 거짓 양성 결과를 실제로 얼마나 잘 해결하는가?
• RQ4 왜 '공동 클러스터링은 과적합을 제거한다'나 '모듈러리티와 SBM은 동일하다'와 같은 오해가 널리 퍼져 있고 잘못된가?
• RQ5 추론적 방법은 스케일에 맞게 실제로 적용 가능할 수 있으며, 히우리스틱 대비 더 비용이 많이 들거나 효율성이 떨어지는가?

주요 결과

• 모듈러리티 최적화와 같은 서술적 방법은 원칙적인 모델 피팅 프레임워크가 없기 때문에 추론 목적으로는 통계적으로 무효하다.
• 모듈러리티 최적화는 해상도 한계와 과적합 문제를 앓으며, 파rameter 조정이나 노말 모델 교체로는 이러한 문제를 완전히 해결할 수 없다.
• 공동 클러스터링은 과적합을 제거하지 못한다; 단지 동일한 결함이 있는 패턴을 여러 실행에 걸쳐 집계할 뿐이다.
• 품질 함수의 통계적 유의성 검정은 적절한 생성 모델이 없기 때문에 결함을 보완할 수 없으며, 이는 오해의 소지가 있다.
• 스토하스틱 블록 모델 기반의 추론적 방법은 통계적으로 타당한 추론을 제공하며, 신호와 잡음을 분리하고 베이지안 증거 또는 정보 기준을 통한 모델 선택이 가능하다.
• 생성 모델이 정확하게 진실이 되어야 유용하다는 믿음은 오해이다—MDL, BIC, 또는 AIC를 통한 모델 선택은 모델이 근사적일지라도 견고성을 보장한다.