[논문 리뷰] Clustering Sparse Graphs

Yudong Chen, Sujay Sanghavi외 1명|arXiv (Cornell University)|2012. 10. 11.

Complex Network Analysis Techniques참고 문헌 23인용 수 44

한 줄 요약

이 논문은 희소 그래프 클러스터링을 위한 볼록화된 최대우도추정 알고리즘을 제안하며, 스토하스틱 블록 모델에서 기존 방법들을 크게 능가하여 이론적 하한선에 로그 인자 범위 내에서 거의 최적의 성능을 달성한다. 이 방법은 비균일한 차수, 불균형한 클러스터 크기, 이상치, 기타 복잡한 구조를 포함한 반무작위 모델으로도 효과적으로 일반화된다.

ABSTRACT

Graph clustering involves the task of partitioning nodes, so that the edge density is higher within partitions as opposed to across partitions. A natural, classic and popular statistical setting for evaluating solutions to this problem is the stochastic block model, also referred to as the planted partition model. In this paper we present a new algorithm- a convexified version of Maximum Likelihood- for graph clustering. We show that, in the classic stochastic block model setting, it outperforms all existing methods by polynomial factors. In fact, it is within logarithmic factors of known lower bounds for spectral methods, and there is evidence suggesting that no polynomial time algorithm would do significantly better. We then show that this guarantee carries over to a more general semi-random extension of the stochastic block model; our method can handle the settings of semi-random graphs, heterogeneous degree distributions, unequal cluster sizes, outlier nodes, planted k-cliques, planted coloring etc.

연구 동기 및 목표

• 희소 그래프 환경에서 기존 방법들을 능가하는 새로운 그래프 클러스터링 알고리즘을 개발하는 것.
• 비균일한 차수 분포, 불균형한 클러스터 크기, 이상치 노드를 다루는 데 있어 현재 방법들의 한계를 해결하는 것.
• 고전적인 스토하스틱 블록 모델에서의 성능 보장을 더 현실적인 반무작위 그래프 모델으로 확장하는 것.
• 기존 이론적 하한선에 로그 인자 범위 내에서 거의 최적의 클러스터링 성능를 달성하는 것.

제안 방법

• 제안된 방법은 그래프 클러스터링을 위한 최대우도추정 프레임워크의 볼록화를 사용한다.
• 비볼록 클러스터링 최적화 문제를 볼록 프로그램으로 변환하여 해의 타당성과 전역 최적해를 보장한다.
• 알고리즘은 클러스터 내 관측된 간선의 우도와 클러스터 간 비연결의 우도를 최대화하도록 설계된다.
• 희소 그래프를 다루고 노이즈 및 이상치에 대한 강건성을 향상시키기 위해 정규화를 통합한다.
• 공격자에 의한 외란이 가해진 상황에서도 성능을 유지할 수 있도록 반무작위 모델으로 자연스럽게 일반화된다.
• 클러스터 크기가 불균형하거나 차수 분포가 비균일한 경우에도 강력한 이론적 보장을 유지한다.

실험 결과

연구 질문

• RQ1 볼록화된 최대우도 접근법이 기존 방법들보다 희소 그래프에서 뛰어난 클러스터링 성능를 달성할 수 있는가?
• RQ2 제안된 알고리즘이 공격자에 의한 외란이 가해진 반무작위 그래프 모델에서 어떻게 성능를 발휘하는가?
• RQ3 이 방법은 비균일한 차수 분포와 불균형한 클러스터 크기까지 어느 정도까지 다룰 수 있는가?
• RQ4 이상치 노드나 k-클리크, 색칠 구조와 같은 식별된 하위구조가 존재할 경우에도 알고리즘이 강력한 성능를 유지하는가?
• RQ5 이 방법의 성능는 다항시간 클러스터링 알고리즘에 대한 알려진 이론적 하한선과 얼마나 가까운가?

주요 결과

• 제안된 알고리즘은 스토하스틱 블록 모델에서 모든 기존 방법들을 다항식 인자 범위로 능가한다.
• 스펙트럼 방법의 알려진 하한선에 로그 인자 범위 내에서 성능를 달성한다.
• 이 방법을 뛰어넘는 다항시간 알고리즘이 존재할 수 없다는 증거가 있다.
• 비균일한 차수와 불균형한 클러스터 크기를 포함한 반무작위 모델으로도 강건하게 일반화된다.
• 공격자에 의한 외란과 이상치 노드 존재 상황에서도 높은 클러스터링 정확도를 유지한다.
• k-클리크나 색칠과 같은 복잡한 식별된 구조를 성능 저하 없이 효과적으로 처리한다.