[論文レビュー] Clustering Stream Data by Exploring the Evolution of Density Mountain

Shufeng Gong, Yanfeng Zhang+1 more|arXiv (Cornell University)|Oct 2, 2017

Advanced Clustering Algorithms Research参考文献 31被引用数 13

ひとこと要約

EDMStream は、データ分布を「密度の山」としてモデル化し、階層的な依存木（DP-Tree）を用いてクラスタ構造を効率的に更新することで、進化するクラスタを追跡するリアルタイムストリームクラスタリングアルゴリズムである。D-Stream や DenStream といった最先端の手法と比較して、7–15倍の高速なクラスタ更新を達成しながら、同等のクラスタリング品質を維持し、オンラインでの進化追跡を可能にしている。

ABSTRACT

Stream clustering is a fundamental problem in many streaming data analysis applications. Comparing to classical batch-mode clustering, there are two key challenges in stream clustering: (i) Given that input data are changing continuously, how to incrementally update clustering results efficiently? (ii) Given that clusters continuously evolve with the evolution of data, how to capture the cluster evolution activities? Unfortunately, most of existing stream clustering algorithms can neither update the cluster result in real time nor track the evolution of clusters. In this paper, we propose an stream clustering algorithm EDMStream by exploring the Evolution of Density Mountain. The density mountain is used to abstract the data distribution, the changes of which indicate data distribution evolution. We track the evolution of clusters by monitoring the changes of density mountains. We further provide efficient data structures and filtering schemes to ensure the update of density mountains in real time, which makes online clustering possible. The experimental results on synthetic and real datasets show that, comparing to the state-of-the-art stream clustering algorithms, e.g., D-Stream, DenStream, DBSTREAM and MR-Stream, our algorithm can response to a cluster update much faster (say 7-15x faster than the best of the competitors) and at the same time achieve comparable cluster quality. Furthermore, EDMStream can successfully capture the cluster evolution activities.

研究の動機と目的

• 高速なデータストリームにおけるリアルタイムクラスタ更新の課題に対処すること。既存のアルゴリズムは、高コストなオフライン再クラスタリングに依存している。
• 密度の山構造における変化をモニタリングすることで、クラスタの合体や分裂といった進化を継続的に追跡すること。
• 完全な再処理を伴わずにインクリメンタルな更新を可能にする、効率的なデータ構造とフィルタリングメカニズムの設計。
• コンmodityハードウェア上でクラスタ更新のレイテンシを 23 μs 未満に抑えることで、低レイテンシ応答を実現しながらクラスタリングの正確性を維持すること。
• バッチモードや後処理による進化追跡の限界を克服し、高速なオンラインクラスタリングと動的進化検出を統合したフレームワークの提供。

提案手法

• アルゴリズムは、データ分布を「密度の山」としてモデル化し、クラスタ中心をピーク、境界を山のふもととして扱うことで、クラスタ構造の視覚的・計算的追跡を可能にする。
• 依存木（DP-Tree）を導入し、クラスタセルとその近隣の高密度近隣セル間の依存関係を捉える階層的構造を構築することで、密度接続成分の木構造を形成する。
• クラスタセルを用いてデータの密集領域を要約することで、計算オーバーヘッドを低減し、高速なストリーム処理を可能にする。
• 更新の範囲を DP-Tree 内の影響を受けるサブツリーに限定する効率的なフィルタリング方式を適用し、新しいデータポイントへの応答を低レイテンシに保つ。
• 最近接の高密度ポイントまでの距離（δ）を、クラスタ境界や合体・分裂といった進化イベントの検出に重要な指標として活用する。
• オフライン再クラスタリングを必要とせず、DP-Tree から直接オンラインでクラスタ結果を更新することで、リアルタイム応答性を実現する。

実験結果

リサーチクエスチョン

• RQ1 ストリームクラスタリングアルゴリズムは、定期的なオフライン再クラスタリングに依存せずに、リアルタイムでのクラスタ更新を達成できるか？
• RQ2 データの受信中に、クラスタの合体や分裂といった進化を継続的に検出し、追跡できるか？
• RQ3 DP-Tree のような階層的ツリー構造は、フラットなグラフや要約ベースの構造と比較して、より高速かつスケーラブルなクラスタ更新を可能にするか？
• RQ4 従来の密度ベースやマイクロクラスタベースの手法と比較して、密度の山の進化を追跡することで、クラスタリングの正確性と応答性がどの程度向上するか？
• RQ5 提案手法は、合成データおよび実世界のストリーミングデータにおいて、更新レイテンシとスケーラビリティの観点でどの程度の性能を示すか？

主な発見

• EDMStream は、コンmodityハードウェア上で平均して 7–23 μs のクラスタ更新レイテンシを達成しており、D-Stream や DenStream といった最良の競合手法と比較して 7–15倍の高速化を実現している。
• DP-Tree の構造的変化と密度の山の進化をモニタリングすることで、クラスタの合体や分裂といった進化活動を効果的に捉えている。
• スピードとオンライン更新に特化しているにもかかわらず、DBSTREAM や DenStream、MR-Stream といった最先端のアルゴリズムと同等のクラスタリング品質を維持している。
• クラスタセルと DP-Tree 構造の使用により、計算オーバーヘッドが顕著に低減され、完全な再処理を伴わずに効率的なインクリメンタル更新が可能になった。
• フィルタリング方式とツリーに基づく依存関係追跡により、更新処理を影響を受けるサブツリーに局所化でき、処理コストとレイテンシを最小限に抑えることができる。
• EDMStream はデータの進化に強く適応可能であり、変化するデータ分布に応じてリアルタイムでクラスタ構造を動的に調整できる。