[论文解读] An Empirical Evaluation of $k$-Means Coresets

Chris Schwiegelshohn, Omar Ali Sheikh-Omar|arXiv (Cornell University)|Jan 1, 2022

Advanced Clustering Algorithms Research被引用 1

一句话总结

本文对 k-means 核心集算法进行了首次全面的实证评估，提出了一项新颖的基准以评估核心集质量，尽管精确测量扭曲度在计算上不可行。该研究在真实世界和合成数据集上评估了最先进的核心集方法，发现由于其能够保持聚类结构，敏感性采样在该基准上表现最佳。

ABSTRACT

Coresets are among the most popular paradigms for summarizing data. In particular, there exist many high performance coresets for clustering problems such as $k$-means in both theory and practice. Curiously, there exists no work on comparing the quality of available $k$-means coresets. In this paper we perform such an evaluation. There currently is no algorithm known to measure the distortion of a candidate coreset. We provide some evidence as to why this might be computationally difficult. To complement this, we propose a benchmark for which we argue that computing coresets is challenging and which also allows us an easy (heuristic) evaluation of coresets. Using this benchmark and real-world data sets, we conduct an exhaustive evaluation of the most commonly used coreset algorithms from theory and practice.

研究动机与目标

• 为解决尽管 k-means 核心集算法在理论上已成熟，但其在实证比较方面仍显不足的问题。
• 识别并解决评估核心集质量的根本挑战，特别是精确测量扭曲度在计算上的困难。
• 提出一项新基准，以实现独立于优化启发式方法的、有意义的、基于启发式的质量评估。
• 对领先的核心集算法在真实世界数据集和所提基准上的系统性评估，以衡量其实际性能。

提出的方法

• 提出一种新颖的基准框架，旨在对核心集构建构成挑战，具有受控的聚类结构和随着中心增加而缓慢衰减的成本。
• 采用启发式评估策略：计算核心集，对核心集运行 k-means，并比较不同算法的聚类成本。
• 在多样化数据集上应用标准的核心集构建算法，包括 BICO、分组采样、Ray Maker、敏感性采样和 StreamKM++。
• 对高维数据集（如 Census、NYTimes）应用 PCA 预处理，以在核心集构建前降低维度。
• 通过在多个运行和 k 值下，计算核心集上聚类成本与完整数据集上成本的比值来度量扭曲度。
• 使用统计分析比较不同算法在真实数据和合成数据上的平均成本与标准差。

实验结果

研究问题

• RQ1 为何精确测量候选核心集的扭曲度在计算上具有困难性？有何证据支持这一困难？
• RQ2 当精确测量扭曲度不可行时，如何有意义地评估核心集质量？
• RQ3 在多样化的现实世界和合成数据集中，哪种核心集构建算法在实践中表现最佳？
• RQ4 核心集算法的性能如何随数据维度、中心数量和数据结构而变化？
• RQ5 核心集算法的选择是否显著影响最终的聚类成本，尤其是在与优化启发式方法结合使用时？

主要发现

• 敏感性采样在所提基准上始终实现最低的聚类成本，表明其在保持聚类结构方面具有优越能力。
• 在 Covertype 和 Caltech 等真实世界数据集上，所有核心集算法产生的聚类成本相近，表明其在实践中区分度有限。
• BICO 和 Ray Maker 在 NYTimes 数据集上表现出高扭曲度（最高达 35.3），表明其在高维稀疏数据上表现不佳。
• 该基准框架揭示了扭曲度在不同算法间存在显著差异，尤其是在具有受控聚类几何结构的合成数据上。
• PCA 预处理可提升高维数据集的核心集质量，尤其对 BICO 和 Ray Maker 效果显著，某些情况下可将扭曲度降低高达 50%。
• 评估启发式方法将核心集质量与优化算法性能混淆，因此无法可靠评估核心集构建本身。