[論文レビュー] Homogeneity of Cluster Ensembles

Brijnesh J. Jain|arXiv (Cornell University)|Feb 8, 2016

Advanced Clustering Algorithms Research参考文献 23被引用数 3

ひとこと要約

本稿は、クラスターエンsembleにおける平均パーティションの非一意性に取り組み、一意な平均が存在する可能性を評価するための均質性を提案する。一意性の十分条件を確立し、均質性をクラスタの安定性と関連づけ、外れ値パーセションを特定する計算可能な下界を提供する。実世界のデータにおいて、大規模なデータセットや外れ値の除去によって一意性が実用的に達成可能であることを示している。

ABSTRACT

The expectation and the mean of partitions generated by a cluster ensemble are not unique in general. This issue poses challenges in statistical inference and cluster stability. In this contribution, we state sufficient conditions for uniqueness of expectation and mean. The proposed conditions show that a unique mean is neither exceptional nor generic. To cope with this issue, we introduce homogeneity as a measure of how likely is a unique mean for a sample of partitions. We show that homogeneity is related to cluster stability. This result points to a possible conflict between cluster stability and diversity in consensus clustering. To assess homogeneity in a practical setting, we propose an efficient way to compute a lower bound of homogeneity. Empirical results using the k-means algorithm suggest that uniqueness of the mean partition is not exceptional for real-world data. Moreover, for samples of high homogeneity, uniqueness can be enforced by increasing the number of data points or by removing outlier partitions. In a broader context, this contribution can be placed as a further step towards a statistical theory of partitions.

研究の動機と目的

• 平均パーセションの非一意性という課題に取り組み、これが統計的推論、一貫性、安定性を損なうことを明らかにする。
• 平均パーセションが一意に定義される条件を調査し、一意性が例外的であるか、一般的なものであるかという仮定に疑問を呈する。
• 均質性を導入し、標本のパーセションが一意な平均にどれほど近いかを定量化する実用的指標としての役割を果たす。
• 均質性とクラスタの安定性の関係を調査し、コンSENSUSクラスタリングにおける多様性と標準クラスタリングにおける安定性の間に潜在的な対立が生じることを明らかにする。
• 平均パーセションの一意性を保証するための標本の選択を支援する、計算可能な均質性の下界を提供する。

提案手法

• ユークリッド距離から導かれる内在的距離を備えた軌道空間にパーセションを点として表現し、幾何的解析を可能にする。
• フリーチェ関数を定義し、パーセション内不一致の最小化として平均パーセションを形式化する。ここでは、内在的距離を用いる。
• 平均パーセションの一意性の十分条件を確立し、標本のパーセションが軌道空間内の十分に小さな球内にある場合に一意性が成立することを示す。
• 均質性を、軌道空間におけるパーセションの散らばりに基づいた、一意性への近接度を表す下界可能な指標として導入する。
• 標本内におけるクラスタ割り当て間の最小距離を用いて、均質性の計算可能な下界を提案し、効率的な外れ値検出を可能にする。
• 均質性とクラスタの安定性を関連づけ、高い均質性が低い不安定性と相関することを示し、コンセンサスクラスタリングにおける多様性と安定性の間のトレードオフを示唆する。

実験結果

リサーチクエスチョン

• RQ1 クラスターエンsembleの平均パーセションが一意に定義される条件は何か？
• RQ2 実用的なクラスタリング状況において、平均パーセションの一意性は例外的であるか、一般的なものであるか？
• RQ3 均質性を形式的に定義し、一意な平均の存在可能性の代理として計算する方法は何か？
• RQ4 コンセンサスクラスタリングにおいて、均質性とクラスタの安定性の関係は何か？
• RQ5 外れ値パーセションを特定・除去することで、均質性を活用してコンセンサスクラスタリングの信頼性を向上させることは可能か？

主な発見

• すべての標本パーセションが軌道空間内の十分に小さな球内にある場合、平均パーセションは一意に定まる。これは、一意性の幾何的条件を提供する。
• 均質性は、標本が一意な平均にどれほど近いかを表す指標として導入され、高い均質性は一意性の可能性が高いかを示す。
• 均質性の計算可能な下界が導出され、それが一意性を妨げる外れ値パーセションを特定するのを助け、それらを除去することで一意性を強制可能となる。
• 合成データおよびUCIデータセットにk-meansを適用した実験結果から、実世界のデータにおいても平均パーセションの一意性は例外的ではないことが示された。
• 高い均質性を示す標本では、データ点の数を増やすか、外れ値パーセションを除去することで一意性を強制可能であり、安定なコンセンサスクラスタリングのための実用的戦略が示された。
• 均質性はクラスタの安定性と正の相関関係にあり、コンセンサスクラスタリングにおける多様性の目標と、標準クラスタリングにおける安定性の目標の間に潜在的な対立があることを示唆している。