[論文レビュー] Initialization methods for optimum average silhouette width clustering

Fatima Batool|arXiv (Cornell University)|Oct 18, 2019

Advanced Clustering Algorithms Research参考文献 37被引用数 4

ひとこと要約

本稿では、平均シルエット幅（ASW）を統一された目的関数として最適化することで、同時に最適なクラスタ数の推定と高品質なパーティションの生成を実現する、新しい距離ベースのクラスタリング手法OSilを提案する。従来の手法とは異なり、OSilはクラスタ数に関する事前知識を必要とせず、データ観測値のみを入力とし、k-means、階層的、密度ベース、モデルベースの手法と比較して、多様なデータ構造において優れたクラスタリング品質と改善されたクラスタ数推定を示している。

ABSTRACT

A unified clustering approach that can estimate number of clusters and produce clustering against this number simultaneously is proposed. Average silhouette width (ASW) is a widely used standard cluster quality index. A distance based objective function that optimizes ASW for clustering is defined. The proposed algorithm named as OSil, only, needs data observations as an input without any prior knowledge of the number of clusters. This work is about thorough investigation of the proposed methodology, its usefulness and limitations. A vast spectrum of clustering structures were generated, and several well-known clustering methods including partitioning, hierarchical, density based, and spatial methods were consider as the competitor of the proposed methodology. Simulation reveals that OSil algorithm has shown superior performance in terms of clustering quality than all clustering methods included in the study. OSil can find well separated, compact clusters and have shown better performance for the estimation of number of clusters as compared to several methods. Apart from the proposal of the new methodology and it's investigation the paper offers a systematic analysis on the estimation of cluster indices, some of which never appeared together in comparative simulation setup before. The study offers many insightful findings useful for the selection of the clustering methods and indices for clustering quality assessment.

研究の動機と目的

• クラスタ数の推定と高品質なパーティションの生成を同時に実現する統一されたクラスタリングフレームワークの開発。
• 特にクラスタ数のような最適なクラスタリングパラメータの選定という課題に、事前の知識なしに対処すること。
• 多様なクラスタリング構造において、真のクラスタ数の推定にASWおよびその最適化版（OASW）のパフォーマンスを評価すること。
• 包括的なシミュレーション設定において、内部妥当性指標とクラスタリング手法の系統的比較を実施すること。
• さまざまな初期化手法の行動と、それらがクラスタリング品質およびクラスタ数推定に与える影響を調査すること。

提案手法

• OSilは、観測間のペアワイズ類似度（距離）を入力として使用する、重複なしでクリアなパーティショニングクラスタリング手法である。
• クラスタ形成を導く距離ベースの目的関数として、平均シルエット幅（ASW）を最適化する。
• 局所最適解を回避するための確率的探索戦略を採用しており、これによりロバストネスが向上する。
• 距離測定が可能であれば、連続的、バイナリ、テキスト、画像などの任意のデータタイプに適用可能である。
• OSilは、k-means、階層的、スペクトル、モデルベースのクラスタリングを含む10の既存手法と比較され、多様な合成データ生成プロセス（DGPs）を用いて評価されている。
• 性能評価には正しく回復されたクラスタの割合（PPR）が用いられ、ASWおよびOASWが妥当性指標として使用されている。

実験結果

リサーチクエスチョン

• RQ1 クラスタ数の推定と高品質なパーティションの生成を同時に実現するクラスタリングアルゴリズムは、既存手法を上回る性能を発揮できるか？
• RQ2 ASWを目的関数として最適化することで、標準的なASWベースの選択と比較して、クラスタリング品質およびクラスタ数推定がどのように向上するか？
• RQ3 多様なクラスタリング構造において、OSilのパフォーマンスが最も優れた初期化手法は何か？
• RQ4 さまざまなデータ条件下で、内部妥当性指標（例：ASW、BIC、Gap、PS）が真のクラスタ数を推定する能力はどのように比較されるか？
• RQ5 複数のクラスタリングアルゴリズムにわたり、OASWアプローチは標準ASWに比べてクラスタ数推定を顕著に改善するか？

主な発見

• OSilは、全テスト済みのデータ生成プロセス（DGPs）において、クラスタリング精度および凝集性の観点で、すべての比較手法を上回る優れたクラスタリング品質を達成した。
• OASWアプローチにより、真のクラスタ数を正しく推定する頻度が、1,000回のシミュレーション中844回に上昇した（標準ASWでは809回）。これは統計的に有意な改善を示している。
• Model 4では、モデルベースクラスタリングで初期化したOSilが100%のPPRを達成したが、BICベースのモデル選択は44%にとどまり、複雑な構造においてOASWの優位性が顕著に現れた。
• Model 8では、スペクトルクラスタリングのPPRがOSilのおかげで28%から48%に向上し、重複するクラスタ構成のような困難な状況でも、より高いロバストネスを示した。
• ジャンプ法は、大多数のDGPsにおいて変換パワーp/3が最適であった。これは、このアプローチの最適パrameter化を示唆している。
• 本研究では、Gap、PS、BI、CVNNといった指標が、以前に一度に系統立てて比較されたことがなく、本研究では統一されたシミュレーションフレームワーク内で初めてこれらが一括して評価された。