[论文解读] HCA-DBSCAN: HyperCube Accelerated Density Based Spatial Clustering for Applications with Noise

Vinayak Mathur, J.P. Mehta+1 more|arXiv (Cornell University)|Dec 1, 2019

Data Management and Algorithms参考文献 8被引用 5

一句话总结

HCA-DBSCAN 通过使用虚拟超立方体和代表性点，提出了一种基于网格的 DBSCAN 加速方法，以减少成对距离比较次数，相较于 FastDBSCAN 最多实现 58.27% 的运行时间加速，同时保持 100% 的聚类准确率和任意形状检测能力。该方法利用分层深度优先遍历超立方体网格，高效识别邻近聚类，计算量最小化。

ABSTRACT

Density-based clustering has found numerous applications across various domains. The Density-Based Spatial Clustering of Applications with Noise (DBSCAN) algorithm is capable of finding clusters of varied shapes that are not linearly separable, at the same time it is not sensitive to outliers in the data. Combined with the fact that the number of clusters in the data are not required apriori makes DBSCAN really powerfully. Slower performance (O(n2)) limits its applications. In this work, we present a new clustering algorithm, the HyperCube Accelerated DBSCAN(HCA-DBSCAN) which uses a combination of distance-based aggregation by overlaying the data with customized grids. We use representative points to reduce the number of comparisons that need to be computed. Experimental results show that the proposed algorithm achieves a significant run time speedup of up to 58.27% when compared to other improvements that try to reduce the time complexity of theDBSCAN algorithm

研究动机与目标

• 为解决 DBSCAN 在高维数据中时间复杂度高的问题，特别是当性能退化至 O(n²) 时。
• 在不牺牲聚类准确率的前提下，减少成对距离计算次数。
• 保持 DBSCAN 的优势——检测任意形状聚类、处理噪声点，且无需预先知晓聚类数量。
• 开发一种可扩展的基于网格的加速方法，在不同数据维度和规模下均表现良好。
• 在现有 DBSCAN 优化方法（如 FastDBSCAN）的基础上，实现显著的运行时间改进。

提出的方法

• 该算法在数据上叠加一个虚拟超立方体网格，使得每个超立方体的空间对角线长度等于 DBSCAN 的 ε 参数，确保每个超立方体内的所有点彼此之间的距离均在 ε 以内。
• 每个超立方体分配代表性点（n 维数据中为 3ⁿ − 1 个），以最小化全点对比较；若代表性点满足 ε 条件，则该超立方体内的所有点将被合并为同一聚类。
• 采用深度优先遍历策略探索邻近超立方体，引入一种新颖的分层机制：当 j 层遍历失败时，检查同一方向上的 (j+1) 层超立方体，且仅限于非对角邻居。
• 分层机制确保不会遗漏任何有效的聚类连接，利用了几何性质：只有在相邻层中，对角超立方体点才可能在 ε 范围内。
• 算法维护聚类 ID 并在超立方体间传播，避免对所有点对进行重复的距离检查。
• 预处理包括沿主维度对数据进行排序，以加速超立方体分配和网格索引。

实验结果

研究问题

• RQ1 基于网格的索引方案是否能显著减少 DBSCAN 中的成对距离计算次数，同时不损害准确率？
• RQ2 与现有 DBSCAN 变体相比，所提出的基于超立方体的方法在低维和高维数据集上的性能扩展性如何？
• RQ3 代表性点和分层遍历在多大程度上可降低计算开销，同时保持聚类连通性？
• RQ4 该方法是否在实现显著运行时间改进的同时，仍保持 DBSCAN 的 100% 准确率？
• RQ5 在加速计算下，该算法是否仍能保持 DBSCAN 检测任意形状聚类的能力？

主要发现

• 在 Leaf 数据集上，HCA-DBSCAN 相较于 FastDBSCAN 最多实现 58.27% 的运行时间加速，在 Vicon Action (Case 2) 数据集上实现 50.4% 的改进。
• 该算法在低维数据中运行时间为 O(n log n)，在高维设置下扩展为 O(n^{3/2})，优于传统 DBSCAN 的 O(n²) 复杂度。
• 在 PAMAP2 数据集（超过 380 万个点）上，HCA-DBSCAN 将运行时间从 DBSCAN 的 17,364.89 分钟减少至 11,704.01 分钟，提升 32.6%。
• 该方法在所有数据集上均保持 100% 的聚类准确率，聚类识别结果与原始 DBSCAN 输出完全一致。
• 分层机制成功防止了聚类连接的遗漏，确保在减少邻居检查次数的情况下仍保持正确性。
• 在更高维度下观察到性能下降，原因是对邻近超立方体数量的增加，但该算法仍保持稳健性和可扩展性。