[論文レビュー] Design and optimization of DBSCAN Algorithm based on CUDA

Bingchen Wang, Chenglong Zhang+4 more|arXiv (Cornell University)|Jun 7, 2015

Data Management and Algorithms参考文献 5被引用数 4

ひとこと要約

この論文では、共有メモリとカーネル結合を用いて距離計算とプリミティブクラスタ構築を最適化するCUDA加速DBSCANアルゴリズムを提案する。大規模データセットにおいて、グローバルメモリアクセスを最小限に抑え、メモリの連続アクセスとスレッドの分岐を改善することで、シリアル版と比較して97.89倍の高速化を達成した。

ABSTRACT

DBSCAN is a very classic algorithm for data clus- tering, which is widely used in many fields. However, with the data scale growing much more bigger than before, the traditional serial algorithm can not meet the performance requirement. Recently, parallel computing based on CUDA has developed very fast and has great advantage on big data. This paper summarizes the algorithms proposed before and improves the performance of the old DBSCAN algorithm by using CUDA and parallel computing. The algorithm uses shared memory as much as possible compared with other algorithms and it has very good scalability. A data set is tested on the new version of DBSCAN. Finally, we analyze the results and give a conclusion that our algorithm is approximately 97 times faster than the serial version.

研究の動機と目的

• 距離計算とクラスタ構築における高い計算コストが原因で生じるシリアルDBSCANの性能ボトルネックを解消すること。
• 複雑な木構造ベースやブロック同期メカニズムに起因する、既存のGPUベースDBSCAN手法が直面する低並列性と過剰なグローバルメモリアクセスの制限を克服すること。
• GPUアーキテクチャに最適化されたDBSCANパイプラインを構築するために、共有メモリの使用を最大化し、カーネル起動のオーバーヘッドを最小限に抑えること。
• アルゴリズムを3つの完全に並列化可能なステップに再構築することで、大規模データセットにおけるスケーラビリティとパフォーマンスを向上させること：距離行列計算、プリミティブクラスタ形成、クラスタマージング。

提案手法

• DBSCANを3つの並列化可能な段階に分割する：(1) CUDAカーネルを用いたペアワイズ距離の計算、(2) 共有メモリを用いたコアポイントの特定とプリミティブクラスタの形成、(3) 反復的伝搬によるクラスタのマージ。
• 距離行列とクラスタデータを共有メモリに格納することで、グローバルメモリアクセスを削減し、メモリの連続アクセスと帯域幅効率を向上させる。
• 距離計算とプリミティブクラスタ構築を1つのカーネル起動に統合することで、カーネル起動のオーバーヘッドを低減し、データ局所性を改善する。
• ループアンローリングとコード再構築を適用することで、命令数を削減し、コンパイラー最適化を促進し、スレッド単位のパフォーマンスを向上させる。
• データアクセスパターンの再編集とメモリアクセス操作の制御により、共有メモリにおけるブランチ分岐とバンク競合を最小限に抑える。
• トランスティヴクロージャ計算を避ける、修正されたクラスタマージングアプローチを採用し、カーネル起動回数を削減した反復的マージを実装する。

実験結果

リサーチクエスチョン

• RQ1 GPUアーキテクチャ上で並列性を最大化し、メモリアクセスのオーバーヘッドを最小限に抑えるために、DBSCANアルゴリズムをどのように再構築できるか？
• RQ2 シリアルDBSCAN実装におけるパフォーマンスボトルネックは何か？ そして、GPUアクセラレーションを用いて効果的にそれらを特定・解消できるか？
• RQ3 共有メモリとカーネル結合は、既存のGPUベース手法と比較して、大規模データセットにおけるDBSCANのパフォーマンスにどの程度向上効果をもたらすか？
• RQ4 ループアンローリングやメモリアクセス再構築といったアルゴリズム最適化は、GPUアクセラレートDBSCANにおけるスレッド単位パフォーマンスを顕著に向上させられるか？
• RQ5 理論的には高い並列性を示すが、実際にはトランスティヴクロージャに基づくマージ戦略が失敗する理由は何か？ そして、より優れたパフォーマンスを実現する代替マージ戦略は何か？

主な発見

• シリアルDBSCANアルゴリズムにおいて、距離計算が合計実行時間の66.27％を占めており、主なパフォーマンスボトルネックである。
• 提案されたCUDA最適化アルゴリズムにより、距離計算とプリミティブクラスタ構築の合計時間が、CPUの1.79秒からGPUの9.91ミリ秒に短縮され、23,040点のデータセットで180.67倍の高速化が達成された。
• 距離計算とクラスタ構築を1つのカーネルに統合することで、実行時間は50.151msから25.336msに短縮され、2倍の改善が確認され、グローバルメモリアクセスが主要なパフォーマンスドレインであることが裏付けられた。
• ループアンローリングとコード再構築により、nvccコンパイラがコンパイルする命令数が442から342に削減され、よりコンactかつ効率的なカーネルコードが得られた。
• 全体のアルゴリズムは、60,032点のデータセットにおいて、シリアル版と比較して97.89倍の高速化を達成した。合計実行時間はCPUの12,210msからGPUの124.73msに低下し、データ転送オーバーヘッドを含む。
• クラスタマージングは依然としてパフォーマンス上の課題であり、データ転送と同期のコストが高く、シリアル版と同程度の時間がかかっている。これは、さらなる最適化の必要性を示している。