[论文解读] Local correlation clustering

Francesco Bonchi, David García-Soriano+1 more|arXiv (Cornell University)|Dec 18, 2013

Data Management and Algorithms参考文献 37被引用 9

一句话总结

本文提出了一类局部相关聚类算法，仅通过亚线性数量的相似度查询即可计算单个对象的聚类归属，实现与数据集大小无关的 O(1/ε²) 时间复杂度下的 (3, ε)-近似。该方法支持亚线性时间、分布式及流式聚类，并提供了一个在查询复杂度上可证明最优的多项式时间近似方案。

ABSTRACT

Correlation clustering is perhaps the most natural formulation of clustering. Given $n$ objects and a pairwise similarity measure, the goal is to cluster the objects so that, to the best possible extent, similar objects are put in the same cluster and dissimilar objects are put in different clusters. Despite its theoretical appeal, the practical relevance of correlation clustering still remains largely unexplored, mainly due to the fact that correlation clustering requires the $Θ(n^2)$ pairwise similarities as input. In this paper we initiate the investigation into \emph{local} algorithms for correlation clustering. In \emph{local correlation clustering} we are given the identifier of a single object and we want to return the cluster to which it belongs in some globally consistent near-optimal clustering, using a small number of similarity queries. Local algorithms for correlation clustering open the door to \emph{sublinear-time} algorithms, which are particularly useful when the similarity between items is costly to compute, as it is often the case in many practical application domains. They also imply $(i)$ distributed and streaming clustering algorithms, $(ii)$ constant-time estimators and testers for cluster edit distance, and $(iii)$ property-preserving parallel reconstruction algorithms for clusterability. Specifically, we devise a local clustering algorithm attaining a $(3, \varepsilon)$-approximation in time $O(1/\varepsilon^2)$ independently of the dataset size. An explicit approximate clustering for all objects can be produced in time $O(n/\varepsilon)$ (which is provably optimal). We also provide a fully additive $(1,\varepsilon)$-approximation with local query complexity $poly(1/\varepsilon)$ and time complexity $2^{poly(1/\varepsilon)}$. The latter yields the fastest polynomial-time approximation scheme for correlation clustering known to date.

研究动机与目标

• 为克服相关聚类在大规模数据集上因需要 Θ(n²) 对应相似度计算而产生的可扩展性瓶颈。
• 设计仅使用少量相似度查询即可返回给定对象所属聚类的局部算法，从而实现亚线性时间聚类。
• 实现在计算或存储所有成对相似度不可行的大数据环境中，相关聚类的实际部署。
• 为基于局部相关聚类的分布式、流式及属性保持聚类算法提供理论基础。
• 在即使面对大规模数据时，也实现近似最优的近似保证，同时保持最小的查询与时间复杂度。

提出的方法

• 提出一种局部相关聚类算法，通过随机采样顶点作为枢纽点，利用相似度查询确定聚类归属。
• 采用 (3, ε)-近似框架，其中代价至多为 3×OPT + εn²，查询复杂度为 O(1/ε²)，且与 n 无关。
• 基于割矩阵实现完全加法的 (1, ε)-近似，实现 poly(1/ε) 的查询复杂度和 2^{poly(1/ε)} 的时间复杂度。
• 通过采样一个小型顶点集 S，并让每个处理器仅处理与 S 相连的边，实现分布式与流式适配，降低内存使用。
• 结合邻域预言机，在 O(n^{3/2}) 时间内实现乘法 (O(1), 0)-近似，对稀疏图而言为亚线性时间。
• 将局部算法与变换结合，生成常数时间估计器、聚类编辑距离测试器，以及属性保持重构算法。

实验结果

研究问题

• RQ1 能否通过将所需相似度查询数量减少至低于 Θ(n²) 来使相关聚类在大数据场景下更具实用性？
• RQ2 是否可能设计一种局部算法，仅使用亚线性数量的查询即可返回给定对象的正确聚类？
• RQ3 在局部相关聚类中，近似质量与查询/时间复杂度之间的权衡关系如何？
• RQ4 能否将局部算法适配至分布式与流式环境，以减少内存占用与延迟？
• RQ5 能否将局部技术扩展至其他相关聚类变体，如染色聚类或双聚类？

主要发现

• 所提出的局部算法在查询复杂度 O(1/ε²) 和时间复杂度 O(1/ε²) 下实现 (3, ε)-近似，且与数据集大小 n 无关。
• 可在 O(n/ε) 时间内显式构建所有 n 个对象的聚类，该复杂度在查询复杂度上被证明是最优的。
• 通过实现完全加法的 (1, ε)-近似，查询复杂度为 poly(1/ε)，时间复杂度为 2^{poly(1/ε)}，从而获得目前已知最快的多项式时间近似方案。
• 该算法支持半流式聚类算法，当 ε 为常数时内存使用为 O(n/ε)，在两轮处理下为 O(n + 1/ε²)。
• 通过采样一个小型枢纽集 S 并将计算限制在与 S 相连的边上，该方法支持分布式聚类，从而实现高效的并行与流式部署。
• 该方法可扩展至邻域预言机，在 O(n^{3/2}) 时间内实现 (O(1), 0)-近似，对稀疏图而言为亚线性时间。