[論文レビュー] Local correlation clustering

Francesco Bonchi, David García-Soriano+1 more|arXiv (Cornell University)|Dec 18, 2013

Data Management and Algorithms参考文献 37被引用数 9

ひとこと要約

この論文は、データセットサイズに依存しない O(1/ε²) 時間で (3, ε)-近似を達成する、局所的相関クラスタリングアルゴリズムを導入している。このアルゴリズムは、個々のオブジェクトのクラスタ所属を決定するためにサブリニア数の類似度クエリのみを用い、サブリニア時間、分散型、ストリーミングクラスタリングを可能にする。クエリ複雑度において理論的に最適である多項式時間近似スキームを提供する。

ABSTRACT

Correlation clustering is perhaps the most natural formulation of clustering. Given $n$ objects and a pairwise similarity measure, the goal is to cluster the objects so that, to the best possible extent, similar objects are put in the same cluster and dissimilar objects are put in different clusters. Despite its theoretical appeal, the practical relevance of correlation clustering still remains largely unexplored, mainly due to the fact that correlation clustering requires the $Θ(n^2)$ pairwise similarities as input. In this paper we initiate the investigation into \emph{local} algorithms for correlation clustering. In \emph{local correlation clustering} we are given the identifier of a single object and we want to return the cluster to which it belongs in some globally consistent near-optimal clustering, using a small number of similarity queries. Local algorithms for correlation clustering open the door to \emph{sublinear-time} algorithms, which are particularly useful when the similarity between items is costly to compute, as it is often the case in many practical application domains. They also imply $(i)$ distributed and streaming clustering algorithms, $(ii)$ constant-time estimators and testers for cluster edit distance, and $(iii)$ property-preserving parallel reconstruction algorithms for clusterability. Specifically, we devise a local clustering algorithm attaining a $(3, \varepsilon)$-approximation in time $O(1/\varepsilon^2)$ independently of the dataset size. An explicit approximate clustering for all objects can be produced in time $O(n/\varepsilon)$ (which is provably optimal). We also provide a fully additive $(1,\varepsilon)$-approximation with local query complexity $poly(1/\varepsilon)$ and time complexity $2^{poly(1/\varepsilon)}$. The latter yields the fastest polynomial-time approximation scheme for correlation clustering known to date.

研究の動機と目的

• 大規模データセットにおいて Θ(n²) のペアワイズ類似度計算を要する相関クラスタリングのスケーラビリティのボトル neck を克服すること。
• 与えられたオブジェクトのクラスタを、サブリニア数の類似度クエリのみを用いて返す局所的アルゴリズムを設計すること。
• すべてのペアワイズ類似度を計算または保存することが非現実的なビッグデータ環境における相関クラスタリングの実用的導入を可能にすること。
• 局所的相関クラスタリングに基づく分散型・ストリーミング型・性質を保全するクラスタリングアルゴリズムの理論的基盤を提供すること。
• 大規模データに対しても、最小限のクエリおよび時間複雑度で近似的に最適な近似保証を達成すること。

提案手法

• 頂点のランダムサンプルをピボットとして用い、類似度クエリによってクラスタ所属を決定する局所的相関クラスタリングアルゴリズムを提案する。
• コストが 3×OPT + εn² 以内である (3, ε)-近似フレームワークを採用し、クエリ複雑度は n に依存しない O(1/ε²) である。
• カット行列に基づく完全加法的 (1, ε)-近似を用い、クエリ複雑度は poly(1/ε)、時間複雑度は 2^{poly(1/ε)} である。
• 小さな頂点集合 S をサンプリングし、各プロセッサが S に接続するエッジのみを処理することで、分散型およびストリーミング型への適応を実現する。
• 近傍オракルを統合し、O(n^{3/2}) 時間で乗法的 (O(1), 0)-近似を達成する。スパarsなグラフではサブリニア時間である。
• 局所的アルゴリズムと変換を組み合わせ、定数時間の推定器、クラスタ編集距離のテスト、性質を保全する再構成アルゴリズムを生成する。

実験結果

リサーチクエスチョン

• RQ1 類似度クエリの必要数を Θ(n²) 未満に抑えることで、相関クラスタリングをビッグデータに実用可能にすることができるか？
• RQ2 与えられたオブジェクトの正しいクラスタを、サブリニア数のクエリのみで返す局所的アルゴリズムを設計することは可能か？
• RQ3 局所的相関クラスタリングにおいて、近似品質とクエリ・時間複雑度のトレードオフは何か？
• RQ4 局所的アルゴリズムは、メモリ使用量と待機時間を削減するために分散型およびストリーミング環境に適応可能か？
• RQ5 局所的手法は、彩色クラスタリングやバイクラスタリングなどの相関クラスタリングの他の変種へ拡張可能か？

主な発見

• 提案された局所的アルゴリズムは、クエリ複雑度 O(1/ε²) および時間複雑度 O(1/ε²) で (3, ε)-近似を達成し、データセットサイズ n に依存しない。
• すべての n 個のオブジェクトに対する明示的クラスタリングは O(n/ε) 時間で構築可能であり、クエリ複雑度において理論的に最適であることが証明されている。
• クエリ複雑度が poly(1/ε)、時間複雑度が 2^{poly(1/ε)} である完全加法的 (1, ε)-近似が達成され、最も高速な既知の多項式時間近似スキームである。
• メモリ使用量が O(n/ε) の半ストリーミングクラスタリングアルゴリズムが可能であり、2パスで O(n + 1/ε²) のメモリ使用量となる。
• 小さなピボット集合 S をサンプリングし、S に接続するエッジに制限することで、分散クラスタリングが可能となり、効率的な並列およびストリーミング展開が可能である。
• 近傍オーキュラルを用いることで、O(n^{3/2}) 時間で (O(1), 0)-近似が達成され、スパースなグラフではサブリニア時間である。