[논문 리뷰] Local correlation clustering

Francesco Bonchi, David García-Soriano외 1명|arXiv (Cornell University)|2013. 12. 18.

Data Management and Algorithms참고 문헌 37인용 수 9

한 줄 요약

이 논문은 개별 객체의 클러스터 소속을 하위선형 수의 유사도 쿼리만을 사용하여 계산하는 국소 상관 클러스터링 알고리즘을 제안하며, 데이터셋 크기와 무관하게 O(1/ε²) 시간 내에 (3, ε)-근사치를 달성한다. 이는 하위선형 시간, 분산형, 스트리밍 클러스터링을 가능하게 하며, 쿼리 복잡도에서 증명된 최적성을 갖는 다항시간 근사법을 제공한다.

ABSTRACT

Correlation clustering is perhaps the most natural formulation of clustering. Given $n$ objects and a pairwise similarity measure, the goal is to cluster the objects so that, to the best possible extent, similar objects are put in the same cluster and dissimilar objects are put in different clusters. Despite its theoretical appeal, the practical relevance of correlation clustering still remains largely unexplored, mainly due to the fact that correlation clustering requires the $Θ(n^2)$ pairwise similarities as input. In this paper we initiate the investigation into \emph{local} algorithms for correlation clustering. In \emph{local correlation clustering} we are given the identifier of a single object and we want to return the cluster to which it belongs in some globally consistent near-optimal clustering, using a small number of similarity queries. Local algorithms for correlation clustering open the door to \emph{sublinear-time} algorithms, which are particularly useful when the similarity between items is costly to compute, as it is often the case in many practical application domains. They also imply $(i)$ distributed and streaming clustering algorithms, $(ii)$ constant-time estimators and testers for cluster edit distance, and $(iii)$ property-preserving parallel reconstruction algorithms for clusterability. Specifically, we devise a local clustering algorithm attaining a $(3, \varepsilon)$-approximation in time $O(1/\varepsilon^2)$ independently of the dataset size. An explicit approximate clustering for all objects can be produced in time $O(n/\varepsilon)$ (which is provably optimal). We also provide a fully additive $(1,\varepsilon)$-approximation with local query complexity $poly(1/\varepsilon)$ and time complexity $2^{poly(1/\varepsilon)}$. The latter yields the fastest polynomial-time approximation scheme for correlation clustering known to date.

연구 동기 및 목표

• 대규모 데이터셋에서 상관 클러스터링이 요구하는 Θ(n²)의 쌍별 유사도 계산으로 인한 확장성 문제를 해결하기 위해.
• 주어진 객체의 클러스터를 하위선형 수의 유사도 쿼리만을 사용하여 반환하는 국소 알고리즘을 설계하여 하위선형 시간 클러스터링을 가능하게 하기 위해.
• 모든 쌍별 유사도를 계산하거나 저장하는 것이 불가능한 빅데이터 환경에서 상관 클러스터링의 실용적 구현을 가능하게 하기 위해.
• 국소 상관 클러스터링을 기반으로 한 분산형, 스트리밍, 성질 유지 클러스터링 알고리즘의 이론적 기반을 제공하기 위해.
• 대규모 데이터에서도 최소한의 쿼리 및 시간 복잡도로 거의 최적의 근사 보장을 달성하기 위해.

제안 방법

• 유사도 쿼리를 통해 클러스터 소속을 결정하기 위해 정점의 무작위 표본을 피벗으로 사용하는 국소 상관 클러스터링 알고리즘을 제안한다.
• 비용이 최대 3×OPT + εn²이 되는 (3, ε)-근사 프레임워크를 활용하며, 쿼리 복잡도는 n과 무관하게 O(1/ε²)이다.
• 컷 행렬을 기반으로 한 완전히 덧셈형 (1, ε)-근사치를 사용하여, 다항식(1/ε)의 쿼리 복잡도와 2^{poly(1/ε)}의 시간 복잡도를 달성한다.
• 작은 정점 집합 S를 샘플링하고 각 프로세서가 S에 인접한 간선만 처리하도록 하여 분산형 및 스트리밍 환경에 적합한 변형을 설계한다.
• 이웃성 오라클을 통합하여 희박한 그래프에 대해 O(n^{3/2}) 시간 내에 곱셈형 (O(1), 0)-근사치를 달성한다.
• 국소 알고리즘과 변환을 조합하여 일정 시간 내 추정기, 클러스터 편집 거리 테스터, 성질 유지 재구성 알고리즘을 생성한다.

실험 결과

연구 질문

• RQ1 상관 클러스터링을 빅데이터 환경에서 실용적으로 만들기 위해 Θ(n²) 이하의 유사도 쿼리 수로 줄일 수 있는가?
• RQ2 주어진 객체의 정확한 클러스터를 하위선형 수의 쿼리만을 사용하여 반환하는 국소 알고리즘을 설계할 수 있는가?
• RQ3 국소 상관 클러스터링에서 근사 품질과 쿼리/시간 복잡도 사이의 상호 교환 관계는 어떠한가?
• RQ4 국소 알고리즘을 분산형 및 스트리밍 환경에 적합하게 조정하여 메모리 사용량과 지연 시간을 줄일 수 있는가?
• RQ5 국소 기법을 색상 클러스터링 또는 이분 클러스터링과 같은 상관 클러스터링의 다른 변형으로 확장할 수 있는가?

주요 결과

• 제안된 국소 알고리즘은 쿼리 복잡도 O(1/ε²)와 시간 복잡도 O(1/ε²)를 바탕으로 데이터셋 크기 n과 무관하게 (3, ε)-근사치를 달성한다.
• 모든 n개의 객체에 대한 명시적 클러스터링은 O(n/ε) 시간 내에 구성 가능하며, 이는 쿼리 복잡도 측면에서 증명된 최적이다.
• 쿼리 복잡도가 다항식(1/ε)이고 시간 복잡도가 2^{poly(1/ε)}인 완전히 덧셈형 (1, ε)-근사치를 달성하여, 현재까지 알려진 가장 빠른 다항시간 근사법이다.
• 메모리 사용량이 O(n/ε)인 반 스트리밍 클러스터링 알고리즘을 구현할 수 있으며, 두 번의 패assing을 통해 O(n + 1/ε²)의 메모리 사용량을 달성한다.
• 작은 피벗 집합 S를 샘플링하고 S에 인접한 간선에 국한하여 계산을 제한함으로써 분산 클러스터링을 지원하며, 효율적인 병렬 및 스트리밍 배포를 가능하게 한다.
• 이론적 기법을 이웃성 오라클로 확장하여 희박한 그래프에 대해 O(n^{3/2}) 시간 내에 (O(1), 0)-근사치를 달성한다.