[論文レビュー] Categorization Axioms for Clustering Results

Yu Jian, Zongben Xu|arXiv (Cornell University)|Mar 9, 2014

Advanced Clustering Algorithms Research参考文献 40被引用数 3

ひとこと要約

本稿は、分類原理に基づくクラスタリング結果の形式的公理的枠組みを提案し、クラスタリング結果を適切、重複、不適切に分類する分離公理を導入する。クラスタリングアルゴリズムおよび妥当性指標のための3つの設計原則—分類同等性、コンパクト性、分離性—を確立し、Xie-Beni や CVNN といった主要なアルゴリズムや指標と整合していることを示している。

ABSTRACT

Cluster analysis has attracted more and more attention in the field of machine learning and data mining. Numerous clustering algorithms have been proposed and are being developed due to diverse theories and various requirements of emerging applications. Therefore, it is very worth establishing an unified axiomatic framework for data clustering. In the literature, it is an open problem and has been proved very challenging. In this paper, clustering results are axiomatized by assuming that an proper clustering result should satisfy categorization axioms. The proposed axioms not only introduce classification of clustering results and inequalities of clustering results, but also are consistent with prototype theory and exemplar theory of categorization models in cognitive science. Moreover, the proposed axioms lead to three principles of designing clustering algorithm and cluster validity index, which follow many popular clustering algorithms and cluster validity indices.

研究の動機と目的

• データ解析におけるクラスタリングの形式的定式化という長年の課題に応える、統一的な公理的枠組みを確立すること。
• 自明または退化した結果を防ぐために、分類公理を形式化し、適切なクラスタリング結果の定義を明確にすること。
• 公理をプロトタイプ理論および例示理論と一致させることで、クラスタリング理論と認知科学を接続すること。
• 理論的公理に基づく、クラスタリングアルゴリズムおよびクラスタ妥当性指標の設計に一般的な原則を導出すること。
• 広く使われているクラスタリング手法および指標が、提案された公理を本質的に満たしていること、またはそれに一致していることを実証すること。

提案手法

• 分類同等性、サンプル分離、クラスタ分離の3つの核心公理を導入し、クラスタリング結果の構造を形式化する。
• 一致する、完全に一致する、情報のない分割といった不適切なクラスタリング結果を定義し、退化した解を除外する。
• サンプル分離公理から不等式を導出し、クラスタリング構造の妥当性を定量化する。
• 分類同等性、クラスタコンパクト性、クラスタ分離の3つのアルゴリズム設計原則を、公理に基づいて提案する。
• 公理を用いて、ファジィC-平均やXie-Beni指数といった既存のクラスタリングアルゴリズムおよび妥当性指標を分析・正当化する。
• 認知科学の理論（プロトタイプおよび例示）を用いて、提案された公理の理論的整合性を検証する。

実験結果

リサーチクエスチョン

• RQ1 自明または退化した結果を除外するための、適切なクラスタリング結果を特徴付ける形式的公理は何か？
• RQ2 構造的性質に基づいて、クラスタリング結果を適切、重複、不適切の3つに体系的に分類する方法は何か？
• RQ3 確立されたクラスタリングアルゴリズムおよび妥当性指標が、提案された公理および原則をどの程度満たしているか？
• RQ4 公理を用いて、新しいクラスタリングアルゴリズムおよび妥当性指標の一般的な設計原則を導出できるか？
• RQ5 提案された公理は、心理学および認知科学における認知的分類理論とどのように関係しているか？

主な発見

• 提案された分類公理は、クラスタリング結果を適切、重複、不適切の3つに成功裏に分類でき、不適切な結果には一致する分割や情報のない分割が含まれる。
• サンプル分離公理から、クラスタリング結果の構造的妥当性を定量化する形式的不等式が導出される。
• Xie-Beni指数は、分離性とコンパクト性の原則と本質的に整合しており、分母が一致するクラスタをペナルティ化することでそれが裏付けられる。
• ファジィC-平均やモデルベースクラスタリングを含む多くの人気のあるクラスタリングアルゴリズムは、提案されたコンパクト性および分離性の原則を暗黙的に満たしている。
• クラスタ妥当性指標CVNNは、コンパクト性と分離性を同時に最適化することで、提案された原則と一致していることが判明した。
• 公理的枠組みは、退化した解を避ける新しいクラスタリングアルゴリズムおよび妥当性指標の設計に理論的基盤を提供する。