[論文レビュー] PS-DBSCAN: An Efficient Parallel DBSCAN Algorithm Based on Platform Of AI (PAI)

Hu Xu, Jun Huang+3 more|arXiv (Cornell University)|Nov 3, 2017

Graph Theory and Algorithms被引用数 5

ひとこと要約

PS-DBSCAN は、パラメータサーバーフレームワークと高速なグローバルユニオン手法を活用することで、分散クラスタリングにおける通信オーバーヘッドを低減する通信効率の高い並列 DBSCAN アルゴリズムです。不重複集合を用い、ワーカー間の協調を最小限に抑えることで、さまざまなデータセットスケールにおいて MPI を基盤とする PDSDBSCAN-D よりも 2–10× の通信効率の向上を達成しています。

ABSTRACT

We present PS-DBSCAN, a communication efficient parallel DBSCAN algorithm that combines the disjoint-set data structure and Parameter Server framework in Platform of AI (PAI). Since data points within the same cluster may be distributed over different workers which result in several disjoint-sets, merging them incurs large communication costs. In our algorithm, we employ a fast global union approach to union the disjoint-sets to alleviate the communication burden. Experiments over the datasets of different scales demonstrate that PS-DBSCAN outperforms the PDSDBSCAN with 2-10 times speedup on communication efficiency. We have released our PS-DBSCAN in an algorithm platform called Platform of AI (PAI - https://pai.base.shuju.aliyun.com/) in Alibaba Cloud. We have also demonstrated how to use the method in PAI.

研究の動機と目的

• コアポイントが複数のワーカーに分散されている場合に発生する並列 DBSCAN の通信コストの高い問題に対処すること。
• クラスターマージ中にワーカー間の協調を最小限に抑えることで、分散 DBSCAN における通信オーバーヘッドを低減すること。
• パラメータサーバーアーキテクチャを用いることで、大規模データにおける密度ベースクラスタリングのスケーラビリティとパフォーマンスを向上させること。
• アリババの AI プラットフォーム（PAI）で運用可能な生産用途に適したスケーラブルな DBSCAN 実装を提供すること。

提案手法

• アルゴリズムはデータポイントを複数のワーカーに分割し、局所的なクラスタメンバーシップを管理するために不重複集合データ構造を用いる。
• 各ワーカーは、epsilon-近傍と minPoints 条件を用いて局所的にクラスタリングを実行し、コアポイントを特定し、局所クラスタを形成する。
• パラメータサーバーフレームワークを介して、局所的なラベル更新を中央サーバーにプッシュすることで、ワーカー間の不重複集合を高速に統合するグローバルユニオン機構を適用する。
• ラベルの競合を解消し一貫性のあるクラスタラベルを伝搬するために、繰り返しステップ（PropagateMaxLabel、MaxReduceToServer、PullFromServer、GlobalUnion、GetMaxLabel）を用いる。
• グローバルラベルベクトルはサーバー上で維持され、ワーカーはそのラベルを同期することでシステム全体の整合性を保つ。
• ワーカー間のペアワイズ通信を避けることで、中央集権的な協調モデルを採用し、メッセージの量と頻度を削減する。

実験結果

リサーチクエスチョン

• RQ1 クラスタが複数のワーカーにまたがる場合、並列 DBSCAN における通信オーバーヘッドをどのように最小化できるか？
• RQ2 パラメータサーバー基盤のフレームワークは、従来の MPI 基盤の実装よりも DBSCAN における通信効率を向上させられるか？
• RQ3 PS-DBSCAN のパフォーマンスは、データセットサイズとプロセッサコア数の増加に伴いどのようにスケーリングするか？
• RQ4 高速なグローバルユニオン手法の使用が、分散 DBSCAN におけるクラスターマージ効率に与える影響は何か？

主な発見

• PS-DBSCAN は、実世界および合成データセットの両方において、MPI を基盤とする PDSDBSCAN-D よりも 2–10× の通信効率の向上を達成している。
• プロセッサコア数とデータセットサイズの増加に伴い性能向上が顕著に現れ、強力なスケーラビリティを示している。
• ワーカー間のペアワイズマージを、パラメータサーバーを介した集中型ラベル同期に置き換えることで、通信コストを低減している。
• 高速なグローバルユニオン手法の採用により、ワーカー間で不重複集合を統合するための通信ラウンド数が顕著に削減されている。
• PS-DBSCAN はアリババのプラットフォーム・オブ・エイ・アイ（PAI）にデプロイされ、MaxCompute におけるベクトルおよびリンクベースの入力フォーマットをサポートしている。
• マルチスレーディングと分散メモリシステムを組み合わせることでパフォーマンスがさらに向上することを示しており、今後の最適化の道筋が示唆されている。