[논문 리뷰] AMOS: An Automated Model Order Selection Algorithm for Spectral Graph Clustering

Pin‐Yu Chen, Thibaut Gensollen외 1명|arXiv (Cornell University)|2016. 09. 21.

Complex Network Analysis Techniques참고 문헌 24인용 수 3

한 줄 요약

AMOS는 무작위 상호연결 모델(RIM) 하에서 통계적 신뢰성 지표를 사용해 점진적으로 클러스터링을 테스트하는 스펙트럴 그래프 클러스터링을 위한 자동 모델 순서 선택 알고리즘으로, 보장된 클러스터링 신뢰성 하에 최소 모델 순서를 달성한다. 다양한 외부 및 내부 클러스터링 지표에서 기존 방법들을 능가하는 성능을 보이며 실제 데이터셋에서 검증되었다.

ABSTRACT

One of the longstanding problems in spectral graph clustering (SGC) is the so-called model order selection problem: automated selection of the correct number of clusters. This is equivalent to the problem of finding the number of connected components or communities in an undirected graph. In this paper, we propose AMOS, an automated model order selection algorithm for SGC. Based on a recent analysis of clustering reliability for SGC under the random interconnection model, AMOS works by incrementally increasing the number of clusters, estimating the quality of identified clusters, and providing a series of clustering reliability tests. Consequently, AMOS outputs clusters of minimal model order with statistical clustering reliability guarantees. Comparing to three other automated graph clustering methods on real-world datasets, AMOS shows superior performance in terms of multiple external and internal clustering metrics.

연구 동기 및 목표

• 스펙트럴 그래프 클러스터링에서 오랫동안 해결되지 않은 모델 순서 선택 문제를 해결한다 — 즉, 올바른 클러스터 수를 자동으로 결정한다.
• 무작위 상호연결 모델(RIM) 하에서 스펙트럴 그래프 클러스터링의 클러스터링 신뢰성에 대한 통계적 보장을 제공한다.
• 최소한의 클러스터 수를 식별하면서도 높은 클러스터링 품질을 보장하는 자동화된 알고리즘을 개발한다.
• 고유한 고유벡터 선택에 대한 이론적 근거가 없는 히وري스틱 또는 최적화 기반 접근법의 한계를 극복한다.
• 기본 지식 없이도 실제 그래프에서 강력하고 신뢰성 있고 자동으로 클러스터링을 수행할 수 있도록 한다.

제안 방법

• 최대 수까지 2부터 시작하여 클러스터 수를 점진적으로 증가시키며, 각 단계에서 스펙트럴 그래프 클러스터링을 적용한다.
• 무작위 상호연결 모델(RIM)을 사용하여 클러스터 간 연결을 독립적인 베르누이 또는 유계 가중치 랜덤 변수로 모델링한다.
• 가장 큰 클러스터 간 간선 가중치 비율을 기반으로 다단계 통계적 가설 검정을 통해 클러스터링의 신뢰성을 추정한다.
• 현재 클러스터링이 통계적으로 신뢰할 수 있는지 평가하기 위해 최대 클러스터 간 가중치 비율에 대한 신뢰구간 검정을 실시한다.
• 신뢰도를 검증하기 위해 조건 $\prod_{i<j} F_{ij}(\widehat{t}_{\text{LB}} / \widehat{\overline{W}}_{ij}, \widehat{p}_{ij}) \geq 1 - \alpha'$ 를 사용한다. 여기서 $F_{ij}$ 는 정규분포와 지시함수의 조합이다.
• 모든 신뢰성 검정에 통과하는 최소 $K$ 에서 종료하여 통계적 신뢰도 하에 최소 모델 순서를 확보한다.

실험 결과

연구 질문

• RQ1 무작위 상호연결 모델(RIM) 하에서 통계적으로 신뢰할 수 있는 클러스터링을 제공하는 최소 클러스터 수는 얼마인가?
• RQ2 진정한 클러스터 수에 대한 사전 지식 없이 스펙트럴 그래프 클러스터링을 어떻게 자동으로 설정할 수 있는가?
• RQ3 통계적 가설 검정을 통해 스펙트럴 클러스터링의 클러스터링 신뢰성을 원칙적으로 검증할 수 있는가?
• RQ4 AMOS는 기존 자동 클러스터링 방법들과 비교해 외부 및 내부 클러스터링 지표에서 어떻게 성능을 내는가?
• RQ5 제안된 방법은 다양한 실제 그래프 구조와 다양한 클러스터 구성 조건에서도 높은 성능을 유지하는가?

주요 결과

• IEEE RTS 데이터셋에서 AMOS는 NMI(정규화 상호정보) 점수 0.89를 기록하여 Louvain(0.74), NB(0.75), ST(0.73)를 모두 능가했다.
• Hibernia 데이터셋에서 AMOS는 랜드 지수(RI) 1.0과 F-측정치 0.94를 기록하여 모든 다른 방법들을 초월했다.
• Cogent 데이터셋에서 AMOS는 4개의 클러스터를 식별하고, 최저의 정규화 컷(NC) 0.036을 기록하여 NB(0.073)와 ST(0.148)를 모두 능가했다.
• Minnesota 도로망에서 AMOS는 46개의 클러스터를 선택하고, 도전도(C) 0.074를 기록하여 Louvain(0.290)과 NB(0.186)보다 우수했다.
• Facebook 네트워크에서는 AMOS가 F-측정치 0.004와 도전도 0.006을 기록하여 높은 복잡성에도 불구하고 뛰어난 성능을 보였다.
• 모든 데이터셋에서 AMOS는 대부분의 클러스터링 지표에서 최고 또는 유사한 성능를 기록하여 강건성과 신뢰성을 입증했다.