[論文レビュー] Anytime Hierarchical Clustering

Ömür Arslan, Daniel E. Koditschek|arXiv (Cornell University)|Apr 13, 2014

Advanced Clustering Algorithms Research参考文献 39被引用数 3

ひとこと要約

この論文は、単一、平均、完全などの一般的なリンク関数と整合性のある同質性基準を用いて、局所的な木構造の再編成により、初期のクラスタリング階層を反復的に改善する、いつでも利用可能な階層的クラスタリングアルゴリズムを導入する。この手法は、グローバルに同質な木構造への有限収束を保証しており、標準的なバッチ単一リンククラスタリングの結果と一致する。また、定数時間の局所的更新により、スケーラブルで分散型かつオンラインのクラスタリングを動的データに対して可能にする。

ABSTRACT

We propose a new anytime hierarchical clustering method that iteratively transforms an arbitrary initial hierarchy on the configuration of measurements along a sequence of trees we prove for a fixed data set must terminate in a chain of nested partitions that satisfies a natural homogeneity requirement. Each recursive step re-edits the tree so as to improve a local measure of cluster homogeneity that is compatible with a number of commonly used (e.g., single, average, complete) linkage functions. As an alternative to the standard batch algorithms, we present numerical evidence to suggest that appropriate adaptations of this method can yield decentralized, scalable algorithms suitable for distributed/parallel computation of clustering hierarchies and online tracking of clustering trees applicable to large, dynamically changing databases and anomaly detection.

研究の動機と目的

• 大規模で動的に変化するデータセットにおいて、バッチ型階層的クラスタリングの限界を克服し、いつでも利用可能で反応性があり、スケーラブルなクラスタリングを実現すること。
• 完全な再クラスタリングを伴わずに、クラスタの同質性を向上させる局所的で反復的な再編成メカニズムを開発すること。
• 一般的なリンク関数に従う場合に、アルゴリズムがグローバルに同質な階層に有限収束することを証明すること。
• 局所的な木構造の再編成を通じて、分散型および並列計算によるクラスタリング階層の計算を可能にすること。
• 異常検知などのリアルタイム応用におけるクラスタリングツリーのオンライン追跡を支援すること。

提案手法

• 各ノードにおけるクラスタの品質を評価するために、リンク関数を用いて定義された同質性基準を用いる。
• 局所的な同質性を向上させるために、具体的には最近隣接交換（Nearest Neighbor Interchange, NNI）という局所的木構造再編成操作を適用する。
• 各NNI移動は、十分統計量（例：平均、分散）を用いて定数時間で計算可能であり、スケーラビリティを実現する。
• アルゴリズムは、いつでも利用可能な形で再帰的に適用され、同質性が段階的に向上するクラスタツリーの系列が得られる。
• 単一、完全、平均、ミニマックス、ウォードのリンク関数を含むクラスのリンク関数に対して、有限時間内に収束することが証明されている。
• インクリメンタルな更新と動的変化する類似度測定をサポートしており、オンライン適応を可能にする。

実験結果

リサーチクエスチョン

• RQ1 局所的で反復的な階層的クラスタリングツリーの再編成は、グローバルな同質性と有限収束を達成できるか？
• RQ2 精度と収束の観点から、いつでも利用可能なクラスタリング手法は、標準的なバッチクラスタリングと比べてどのように異なるか？
• RQ3 この手法は、大規模または動的データ環境における分散型、並列型、オンライン計算に適応可能か？
• RQ4 同質性基準と標準的なリンク関数に基づくクラスタリングの結果との間にどのような関係があるか？
• RQ5 この手法は、クラスタリングと同時に距離尺度学習をサポートするために拡張可能か？

主な発見

• いつでも利用可能なクラスタリング手法は、単一、完全、平均、ミニマックス、ウォードのリンク関数を含む広範なリンク関数クラスについて、有限時間内にグローバルに同質な階層に収束することが確認された。
• 単一リンクの場合、初期の階層に依存せず、標準的なバッチ凝集的クラスタリングが生成する一意の木構造に収束する。
• 実験結果から、いつでも利用可能なクラスタリングとインクリメンタルクラスタリングは、平均およびウォードのリンク関数において、バッチ凝集的クラスタリングと同等の性能を示し、共通相関係数が真値に近いことが確認された。
• 完全およびミニマックスリンク関数では、クラスタ間の類似度が過大評価されるため性能がやや低くなるが、実用上は有効である。
• 単一リンクでは反復回数が2次関数的成長を示し、他のリンク関数では線形成長の可能性があるため、さらなる最適化によりスケーラビリティが向上すると予想される。
• 初期化の質が優れているため、インクリメンタルクラスタリングはいつでも利用可能なクラスタリングを上回る性能を示したが、両手法ともランダムな初期ツリーに比べて顕著な改善が見られた。