[論文レビュー] Online Cluster Validity Indices for Streaming Data

Masud Moshtaghi, James C. Bezdek+3 more|arXiv (Cornell University)|Jan 8, 2018

Advanced Clustering Algorithms Research参考文献 20被引用数 10

ひとこと要約

本稿では、オンラインストリーミングデータ向けに段階的クラスタ適合指標（iCVIs）を導入し、正確な更新と忘れ係数ベースの更新を用いたXie-BeniおよびDavies-Bouldin指標のオンライン版を提案する。忘れ係数を用いた段階的Xie-Beni指標（XBλ(n)）は、クラスタの進化を検出したり、リアルタイムで異常を信号検出したりする点で、他のバージョンを上回る性能を示した。

ABSTRACT

Cluster analysis is used to explore structure in unlabeled data sets in a wide range of applications. An important part of cluster analysis is validating the quality of computationally obtained clusters. A large number of different internal indices have been developed for validation in the offline setting. However, this concept has not been extended to the online setting. A key challenge is to find an efficient incremental formulation of an index that can capture both cohesion and separation of the clusters over potentially infinite data streams. In this paper, we develop two online versions (with and without forgetting factors) of the Xie-Beni and Davies-Bouldin internal validity indices, and analyze their characteristics, using two streaming clustering algorithms (sk-means and online ellipsoidal clustering), and illustrate their use in monitoring evolving clusters in streaming data. We also show that incremental cluster validity indices are capable of sending a distress signal to online monitors when evolving clusters go awry. Our numerical examples indicate that the incremental Xie-Beni index with forgetting factor is superior to the other three indices tested.

研究の動機と目的

• ストリーミングデータにおけるオンラインクラスタ適合手法の欠如に応えるため、一度きりのデータアクセスが可能なバッチ適合手法が不適切であるという点を解決する。
• データストリームが流入する中でリアルタイムにクラスタ品質を評価できる、内部クラスタ適合指標の段階的定式化を開発する。
• オンラインクラスタリングアルゴリズムがクラスタ品質を自己監視し、新たなクラスタの出現や品質の低下を検出できるようにする。
• 実世界のデータセットを用いて、これらのiCVIsが進化するデータストリームにおける意味のある変化を検出する性能を評価する。
• 長期間にわたるクラスタ品質評価の関連性を維持する観点から、忘れ戦略と非忘れ戦略の有効性を比較する。

提案手法

• クラスタ内分散のための2つの段階的手法を提案：正確な再帰的更新と指数的忘れ係数ベースの更新。
• 段階的分散推定値を用いて、Xie-Beni（XB）およびDavies-Bouldin（DB）指標のオンライン版を導出する。
• iCVIsを2つのオンラインクラスタリングアルゴリズムに適用：sk-means（時間的記憶なし）およびオンライン楕円クラスタリング（OEC、クラスタ統計の記憶あり）。
• 最小値が最適とされる指標を用いて、クラスタ品質を動的に監視する。値が上昇すると劣化を示す。
• 忘れ係数を導入し、古いデータの影響を軽減することで、コンセプトドリフトへの対応性を向上させる。
• 実世界のストリーミングデータセット（LG：環境センサー、GSA：ガスセンサー アレイ）を用いてiCVIsを検証し、視覚的および定量的分析を実施する。

実験結果

リサーチクエスチョン

• RQ1 内部クラスタ適合指標をストリーミングデータの段階的処理に適応させることは可能か？
• RQ2 iCVIsの忘れ型と非忘れ型の定式化は、クラスタの進化および異常の検出にどのように影響するか？
• RQ3 iCVIsは、クラスタリング性能の劣化や新たなクラスタの出現をリアルタイムで効果的に信号検出できるか？
• RQ4 時間的記憶あり（例：OEC）となし（例：sk-means）のクラスタリングアルゴリズム間で、iCVIsの性能に差は生じるか？
• RQ5 4つのiCVIs（XB(n)、XBλ(n)、DB(n)、DBλ(n)）の中で、ストリーミングクラスタ品質の監視に最も信頼性が高いのはどれか？

主な発見

• 忘れ係数を用いた段階的Xie-Beni指標（XBλ(n)）は、テストされた他の3つのiCVIsよりも、クラスタ変化の検出および異常信号検出において優れた性能を示した。
• OECはクラスタ統計（共分散を含む）を保持しているため、iCVI値が低く抑えられ、sk-meansに比べて著しく優れたクラスタ品質を達成した。
• LGデータセットでは、高風速および降雪の主要イベントが、正しい時刻に明確なピークを示すことで、iCVIsが正しく検出された。
• GSAデータセットでは、ガス導入後に両方のiCVIsが遅れて明確なピークを示し、ガス切り替え時に2つの近接ピークが観察された。これは、アルゴリズムが変化するクラスタ構造に適応していることを反映している。
• iCVIsは、クラスタ品質が劣化した際に「危機信号」を発するリアルタイムで非教師ありの検証メカニズムを提供する。
• 非忘れ型のiCVI（例：XB(n)）はコンセプトドリフトに適応できないが、忘れ型（例：XBλ(n)）は古くなったデータの影響を軽減することで、長期間にわたって関連性を維持する。