[論文レビュー] Cluster validation by measurement of clustering characteristics relevant to the user

Christian Hennig|arXiv (Cornell University)|Mar 27, 2017

Advanced Clustering Algorithms Research被引用数 6

ひとこと要約

本稿は、ユーザーが関心を持つ複数のクラスタリング特性——例えば、クラスタ内均質性、クラスタ間分離度、ギャップ構造——を補正済み・正規化されたインデックスで測定する多次元的クラスターバリデーションフレームワークを提案する。これにより、ユーザーの応用目的に基づいたカスタム重みでこれらの指標を統合可能であり、人工的および実データセット（テトラゴニュラミツバチを含む）を用いた実証的テストで、従来の単変量インデックスに比べて外部ベンチマーク（例：種の区別）との整合性が顕著に優れていることが示された。

ABSTRACT

There are many cluster analysis methods that can produce quite different clusterings on the same dataset. Cluster validation is about the evaluation of the quality of a clustering; "relative cluster validation" is about using such criteria to compare clusterings. This can be used to select one of a set of clusterings from different methods, or from the same method ran with different parameters such as different numbers of clusters. There are many cluster validation indexes in the literature. Most of them attempt to measure the overall quality of a clustering by a single number, but this can be inappropriate. There are various different characteristics of a clustering that can be relevant in practice, depending on the aim of clustering, such as low within-cluster distances and high between-cluster separation. In this paper, a number of validation criteria will be introduced that refer to different desirable characteristics of a clustering, and that characterise a clustering in a multidimensional way. In specific applications the user may be interested in some of these criteria rather than others. A focus of the paper is on methodology to standardise the different characteristics so that users can aggregate them in a suitable way specifying weights for the various criteria that are relevant in the clustering application at hand.

研究の動機と目的

• 特定のデータセットに対して単一の最適クラスタリングを仮定する単変量クラスターバリデーションインデックスの限界を解消すること。
• 均質性、分離度、ギャップ構造などのユーザー固有の目的に基づく、クラスタリング品質の多次元的評価を提供すること。
• 異なる手法やパラメータ設定からのクラスタリングを、カスタマイズ可能な基準の統合により相対的にバリデーション可能にする仕組みを提供すること。
• ランダムクラスタリング（例：「無知なK重心」や「無知な最近傍クラスタリング」）を用いた補正スキームを開発し、多様なバリデーションインデックスを正規化し、意味のある比較と統合を可能にすること。
• バリデーション指標を現実の応用ニーズと結びつけることで、実践的なクラスタリング選択とアルゴリズムベンチマーク評価を支援すること。

提案手法

• クラスタ内非類似度を測る $I^{cK}_{\text{withindis}}$、10百分位数での分離度を測る $I^{cK}_{0.1\text{-sep}}$、相関に基づく均質性を測る $I^{cK}_{\text{Pearson}\Gamma}$、クラスタ間最大ギャップを特定する $I^{cK}_{\text{widestgap}}$ の4つの異なるバリデーションインデックスを導入する。
• ユーザーが指定した重みに基づき、正規化されたバリデーションスコアを統合する集約インデックス $A({\cal C})$ を提案する。
• 各インデックスをランダムクラスタリングの分布（例：「無知なK重心」や「無知な最近傍クラスタリング」）と比較することで、値を正規化し、異なる基準間の比較可能性を確保する。
• リサンプリングに基づく補正を用いて、ランダム性のもとでの期待される変動を推定し、スケールが異なるインデックスのzスコアに類似した標準化を可能にする。
• 人工的および実データセット（テトラゴニュラミツバチの種の区別研究を含む）を用いて、クラスタリング品質と手法の性能を評価するフレームワークを適用する。
• 実用的なクラスタ分析ワークフローへの統合を目的として、R言語の 'fpc' パッケージにこの手法を実装する。

実験結果

リサーチクエスチョン

• RQ1 特定のデータセットに対して単一の最適クラスタリングを仮定する単変量インデックスにとどまらず、クラスターバリデーションをどのように改善できるか？
• RQ2 データ圧縮やパターン認識といった異なるクラスタリング目的において、最も関連性のあるクラスタリングの多次元的特性とは何か？
• RQ3 均質性、分離度、ギャップ構造を測る多様なバリデーションインデックスを、どのように正規化・統合し、ユーザー主導の意思決定に意味を持たせられるか？
• RQ4 提案された集約インデックスが、生物学的データにおける既知の種グループ化といった外部ベンチマークとどの程度整合しているか？
• RQ5 ランダムクラスタリングの補正方法（同じKのもののみ vs. 全てのランダムクラスタリング）の違いが、バリデーション結果の信頼性と安定性に与える影響はどの程度か？

主な発見

• テトラゴニュラミツバチデータセットにおける55個のクラスタリングにおいて、集約インデックス $A({\cal C})$ は調整ランダ指数（ARI）と相関係数約0.85を示し、外部バリデーションと強い整合性を示した。
• 平均リンク法で $K=12$ のクラスタを用いた場合、$A({\cal C})$ の値が9.97と最高を記録し、ARIが最も高かったわけではなかったにもかかわらず、他の手法を上回った。これは、この手法が意味のあるクラスタ構造を捉える能力を有することを示している。
• 真の種の数が9であるにもかかわらず、$K=10$ および $K=12$ のクラスタリングが $K=9$ よりも高いARI値を示した。これは、正しいクラスタ数が最良のクラスタリング品質を保証するわけではないことを示している。
• クラスタ内ギャップ基準（$I^{cK}_{\text{widestgap}}$）が順位付けにおいて決定的役割を果たし、他の手法に比べて $K \geq 9$ の平均リンク法が優位に評価された。
• 同じKのランダムクラスタリングのみを用いた補正法と、すべてのランダムクラスタリングを用いた補正法とで、同じ順位付けが得られた。これは、補正アプローチの堅牢性を示している。
• PAM手法はクラスタ内均質性において優れていたが、分離度とギャップ構造に優れる平均リンク法に全体的に及ばなかった。これは、多次元的評価の価値を示している。