[論文レビュー] DBSCAN++: Towards fast and scalable density clustering

Jennifer Jang, Heinrich Jiang|arXiv (Cornell University)|Oct 31, 2018

Advanced Clustering Algorithms Research被引用数 43

ひとこと要約

DBSCAN++ は、点のサブセットの密度を計算する DBSCAN のサブ二次的な派生で、より速いクラスタリングを実現し、帯域幅に対して競争力のある精度と頑健性を保つ高速なクラスタリングを実現します。

ABSTRACT

DBSCAN is a classical density-based clustering procedure with tremendous practical relevance. However, DBSCAN implicitly needs to compute the empirical density for each sample point, leading to a quadratic worst-case time complexity, which is too slow on large datasets. We propose DBSCAN++, a simple modification of DBSCAN which only requires computing the densities for a chosen subset of points. We show empirically that, compared to traditional DBSCAN, DBSCAN++ can provide not only competitive performance but also added robustness in the bandwidth hyperparameter while taking a fraction of the runtime. We also present statistical consistency guarantees showing the trade-off between computational cost and estimation rates. Surprisingly, up to a certain point, we can enjoy the same estimation rates while lowering computational cost, showing that DBSCAN++ is a sub-quadratic algorithm that attains minimax optimal rates for level-set estimation, a quality that may be of independent interest.

研究の動機と目的

• DBSCAN が二乗の最悪-case 複雑性を持つ大規模データセットに対して、より速い密度ベースのクラスタリングの必要性を動機づける。
• 計算量を削減するために、点のサブセットの密度を計算する修正として DBSCAN++ を導入する。
• 統計的一貫性の保証を確立し、計算量と推定速度のトレードオフを定量化する。
• 実データとシミュレートデータのハイパーパラメータ全体で、経験的な高速化と頑健なクラスタリング性能を実証する。

提案手法

• eps.neighborhood 内で少なくとも minPts を満たす点をコアポイントとして定義する。
• 密度を計算するために m 個の点のサブセット S を選択し、S からコアポイントグラフを構築する DBSCAN++ を提案する。
• サブセット S を選択するために一様サンプリング（Algorithm 2）または貪欲な K-center 初期化（Algorithm 3）を用いる。
• コアポイント上に近傍グラフを構築し、連結成分としてクラスタを得る。非コアポイントは最も近いコアポイントへ割り当てる。
• 時間計算量を O(nm) と分析し、密度レベルセット推定に関する一致性を示す。
• 頑健性を高め、遠く離れた成分間の偽結合を防ぐためにコアポイントの剪定を提供する。

実験結果

リサーチクエスチョン

• RQ1 DBSCAN のように密度レベルセットと連結成分を、点のサブセットのみで計算した密度で回復できるか？
• RQ2 サブセットサイズ m と推定速度およびクラスタリングの精度とのトレードオフはどうなるか？
• RQ3 一様サンプリングと K-center ベースのサンプリングは、DBSCAN に対して理論的保証と実践的な頑健性の利点を提供するか？
• RQ4 実データセットと異なるハイパーパラメータに対して、速度と頑健性の観点で DBSCAN++ はどのように性能を発揮するか？

主な発見

• DBSCAN++ は密度をわずか m 点のみに問い合わせることで、サブ二次的な実行時間 O(nm) を達成する。
• 系論: m ≈ n^{D/(2β+D)} のとき、DBSCAN++ は対数因子を除けばレベルセット推定のミニマックス最適レートを達成する。
• DBSCAN++ は DBSCAN に同等の密度レベルセット推定の一貫性保証を維持する。
• 一様初期化と K-center 初期化は、ε および minPts 設定全般において競争力のあるまたは優れたクラスタリング性能と頑健性を提供する。
• 実データセットおよび画像分割タスクで、DBSCAN と比較して実質的な高速化を示し、同等またはそれ以上のクラスタリングスコアを達成するとの実証結果。