[論文レビュー] Theoretically-Efficient and Practical Parallel DBSCAN

Yiqiu Wang, Yan Gu+1 more|arXiv (Cornell University)|Dec 12, 2019

Data Management and Algorithms参考文献 89被引用数 5

ひとこと要約

本論文は、ユークリッド空間における理論的に効率的で、並列性に優れたDBSCANアルゴリズムを提示している。これらのアルゴリズムは、最良の逐次的アルゴリズムと同等の作業複雑度を達成しながら、多対数時間の深さを実現している。著者らは最適化された実装を構築し、36コアで2重ハイパースレーディングを実行する環境で、最速の逐次的実装よりも最大33倍の高速化を達成するとともに、既存の並列DBSCANアルゴリズムよりも最大6,102倍の高速化を達成した。

ABSTRACT

The DBSCAN method for spatial clustering has received significant attention due to its applicability in a variety of data analysis tasks. There are fast sequential algorithms for DBSCAN in Euclidean space that take $O(n\log n)$ work for two dimensions, sub-quadratic work for three or more dimensions, and can be computed approximately in linear work for any constant number of dimensions. However, existing parallel DBSCAN algorithms require quadratic work in the worst case, making them inefficient for large datasets. This paper bridges the gap between theory and practice of parallel DBSCAN by presenting new parallel algorithms for Euclidean exact DBSCAN and approximate DBSCAN that match the work bounds of their sequential counterparts, and are highly parallel (polylogarithmic depth). We present implementations of our algorithms along with optimizations that improve their practical performance. We perform a comprehensive experimental evaluation of our algorithms on a variety of datasets and parameter settings. Our experiments on a 36-core machine with hyper-threading show that we outperform existing parallel DBSCAN implementations by up to several orders of magnitude, and achieve speedups by up to 33x over the best sequential algorithms.

研究の動機と目的

• 理論的な効率性と実用的性能のギャップを埋めるために、逐次の作業バウンドを再現しながらも、高並列性を実現するDBSCANアルゴリズムの設計。
• ユークリッド空間における正確かつ近似DBSCANの並列アルゴリズムを開発し、多対数時間の深さと作業効率を達成。
• 標準的なDBSCANと同一のクラスタリング結果を出力するが、品質に妥協を加えないように保証。
• 共有メモリシステムにおける実用的性能を最適化し、既存の並列DBSCANソリューションを上回る性能を実現。
• 多様な合成データおよび実世界のデータセットを用いた、さまざまなパラメータ設定下での優れたスケーラビリティと性能を実証。

提案手法

• ボックスまたはグリッド分割を用いた並列2次元正確DBSCANの設計。接続性の特定には、ドロネー三角形分割、直線分離を用いた単位球面空領域チェック、二色の最近接ペアの3つの手法を採用。
• 高次元の正確DBSCANにこのアプローチを拡張し、並列的に高次元の二色最近接ペア問題を解く。
• クアッドツリー構築とクエリを用いた並列近似DBSCANアルゴリズムを設計。GanとTao（2017）の逐次的近似アルゴリズムの出力と一致する。
• ロックフリーなデータ構造や効率的なメモリアクセスパターンといった最適化を実装し、実用的性能を向上。
• 36コアで2重ハイパースレーディングを実行する共有メモリアーキテクチャを用いて、多様なデータセットおよびパラメータ設定下での性能を評価。
• 作業効率の高い並列プリミティブと高い並列性（多対数時間の深さ）を活用し、理論的効率性と実用的スケーラビリティを両立。

実験結果

リサーチクエスチョン

• RQ1 最良の逐次的アルゴリズムと同等の作業複雑度を達成しながら、多対数時間の深さを維持する並列DBSCANアルゴリズムを設計可能か？
• RQ2 標準定義のDBSCANと比較してクラスタリング品質や出力の正しさを損なわず、正確DBSCANを並列化可能か？
• RQ3 並列化された近似DBSCANは、逐次的近似アルゴリズムの性能を模倣しつつ、マルチコアシステムで良好にスケーリング可能か？
• RQ4 実用的側面において、既存の並列DBSCAN実装と比較して、本研究で提案された並列アルゴリズムのスループット向上と絶対的性能はどの程度か？
• RQ5 本研究で提案されたアルゴリズムは、かつて正確DBSCANに適さないと考えられていた大規模データセットを処理でき、分散処理の代替手段を上回る性能を示せるか？

主な発見

• 提案された正確DBSCAN実装は、36コア環境下で、自己相対的高速化が2–89倍（平均24倍）、最速の逐次的実装比で5–33倍（平均16倍）の高速化を達成した。
• 近似DBSCAN実装は、14–44倍（平均24倍）の自己相対的高速化を達成し、強力なスケーラビリティを示した。
• 既存の並列DBSCANアルゴリズムと比較して、最速の正確実装は最適パラメータ設定下で最大6,102倍の高速化を達成した。
• 本研究のアルゴリズムは、正確DBSCANに用いられた文献で最大のデータセットを処理し、13次元のTeraClickLogデータセットにおいて、最先端の分散RP-DBSCANアルゴリズムを18–577倍の高速化で上回った。
• 実装は優れた並列効率を達成しており、多対数時間の深さと、最良の逐次的アルゴリズムと同等の作業複雑度を満たしていた。
• 結果から、理論的効率性と実用的性能が並列DBSCANにおいて同時に達成可能であることが確認され、長年の分野内ギャップが埋まった。