[论文解读] Coresets for Clustering in Graphs of Bounded Treewidth

D. N. Baker, Vladimir Braverman+4 more|arXiv (Cornell University)|Jul 10, 2019

Data Management and Algorithms被引用 8

一句话总结

本论文提出了一种近线性时间算法，用于在有界树宽图中构建 $k$-Median 聚类的 $ϵ$-coreset，其 coreset 大小为 $O_{ϵ,k}( ext{tw}(G))$，与数据集大小 $n$ 无关。该方法利用了对打碎维数的统一有界性，并在聚类工作负载中实现了显著加速，尤其在将 coreset 与局部搜索结合时效果更明显。

ABSTRACT

We initiate the study of coresets for clustering in graph metrics, i.e., the shortest-path metric of edge-weighted graphs. Such clustering problems are essential to data analysis and used for example in road networks and data visualization. A coreset is a compact summary of the data that approximately preserves the clustering objective for every possible center set, and it offers significant efficiency improvements in terms of running time, storage, and communication, including in streaming and distributed settings. Our main result is a near-linear time construction of a coreset for k-Median in a general graph $G$, with size $O_{ε, k}(\mathrm{tw}(G))$ where $\mathrm{tw}(G)$ is the treewidth of $G$, and we complement the construction with a nearly-tight size lower bound. The construction is based on the framework of Feldman and Langberg [STOC 2011], and our main technical contribution, as required by this framework, is a uniform bound of $O(\mathrm{tw}(G))$ on the shattering dimension under any point weights. We validate our coreset on real-world road networks, and our scalable algorithm constructs tiny coresets with high accuracy, which translates to a massive speedup of existing approximation algorithms such as local search for graph k-Median.

研究动机与目标

• 为解决图度量下 $k$-Median 聚类缺乏 coresets 构造的问题，特别是在道路网络等结构化图中。
• 设计一种高效（近线性时间）且大小与输入大小 $n$ 无关的 coresets 构造方法，适用于有界树宽图。
• 通过打碎维数界建立 coresets 大小的理论保证，并在真实世界道路网络上实证验证该方法。
• 展示在聚类流水线中，特别是将 coresets 与现有近似算法（如局部搜索）结合时，可实现的实际加速效果。

提出的方法

• 适配 Feldman-Langberg 的 coresets 构造框架，该框架要求对任意点权重分布下的打碎维数进行有界。
• 为有界树宽图中任意点权重分布，建立了打碎维数的统一上界 $O(\text{tw}(G))$。
• 利用该界，为图度量下的 $k$-Median 构造出大小为 $O_{\epsilon,k}(\text{tw}(G))$ 的 $\epsilon$-coreset。
• 采用基于敏感度采样的加权采样过程，从原始数据集中生成 coresets。
• 通过在真实道路网络数据上的实证评估验证 coresets，与均匀随机采样进行比较，并测量最大经验误差。
• 将 coresets 集成到 $k$-Median 的局部搜索算法中，评估其在 $D \times V$ 和 $D \times D$ 搜索空间中的性能。

实验结果

研究问题

• RQ1 能否为图度量下的 $k$-Median 聚类高效地构建 coresets，特别是在有界树宽图中？
• RQ2 coresets 大小对树宽 $\text{tw}(G)$ 的依赖关系如何？能否使其与数据集大小 $n$ 无关？
• RQ3 与均匀采样相比，coresets 在实际应用中的表现如何，特别是在准确性和加速比方面？
• RQ4 coresets 能在多大程度上加速现有的近似算法（如局部搜索）在图 $k$-Median 中的应用？

主要发现

• coresets 构造在近线性时间内运行，生成的 coresets 大小为 $O_{\epsilon,k}(\text{tw}(G))$，与 $n$ 无关，这相比通用度量下的 coresets 构造方法有显著改进。
• 在真实世界道路网络中，仅使用约 1,000 个点即可实现 5\% 的误差，相较于均匀采样在曼哈顿集中数据上的准确率高出 3–5 倍。
• 相同大小的 coresets 在不同数据集大小下均保持一致的准确性，证实了其与 $n$ 的理论无关性。
• 在 coresets 上进行 $D \times D$ 局部搜索，相比在完整数据集 $X \times V$ 上的搜索，实现了高达 1,000 倍的加速，且目标值误差仅为 5\%–10\%。
• 为较大 $k$（如 $k=25$）构建的 coresets 对于较小的 $k'$ 依然有效，支持在多个聚类实验中复用。
• coresets 构造时间约为在完整数据集上运行局部搜索的 100 倍快，使其成为一次性的可行预处理步骤。