[論文レビュー] Classifying Clustering Schemes

Gunnar Carlsson, Facundo Mémoli|arXiv (Cornell University)|Nov 24, 2010

Topological and Geometric Data Analysis参考文献 8被引用数 8

ひとこと要約

本稿は、有限距離空間におけるクラスタリングスキームを分類する関手的枠組みを導入し、クライネルグの不可能性結果を、構造的一致性を射形写像において強制することで存在と一意性の定理に置き換える。excisivenessなどの条件を用いてクラスタリング関手を分類し、mクラスターフィルタリングやDBSCANに類似したスキームといった新しい手法を、恒続ホモロジーの概念を用いて導入することで、密度感受性とノイズ耐性を向上させる。

ABSTRACT

Many clustering schemes are defined by optimizing an objective function defined on the partitions of the underlying set of a finite metric space. In this paper, we construct a framework for studying what happens when we instead impose various structural conditions on the clustering schemes, under the general heading of functoriality. Functoriality refers to the idea that one should be able to compare the results of clustering algorithms as one varies the data set, for example by adding points or by applying functions to it. We show that within this framework, one can prove a theorems analogous to one of J. Kleinberg, in which for example one obtains an existence and uniqueness theorem instead of a non-existence result. We obtain a full classification of all clustering schemes satisfying a condition we refer to as excisiveness. The classification can be changed by varying the notion of maps of finite metric spaces. The conditions occur naturally when one considers clustering as the statistical version of the geometric notion of connected components. By varying the degree of functoriality that one requires from the schemes it is possible to construct richer families of clustering schemes that exhibit sensitivity to density.

研究の動機と目的

• クラスタリング実務と形式的理論の間の理論的断絶を是正するため、クライネルグの不可能性結果を、構成的で関手的な枠組みに置き換える。
• クラスタリングを、距離空間の射形写像における関手的性質を強調することで、位相的連結成分の統計的アナログとして形式化する。
• excisiveness や関手的性質といった構造的条件の下でクラスタリングスキームを分類し、密度感受性を持つより包括的なアルゴリズム族を可能にする。
• 恒続集合論を用いて、mクラスターフィルタリングやDBSCANに類似したスキームといった新しいクラスタリング手法を構築する。
• 安定性、ノイズフィルタリング、および関手的図式による幾何的解釈を可能にする、クラスタリングの理論的基盤を提供する。

提案手法

• 有限距離空間（単射写像を含む）の圏から、分割の圏への関手としてクラスタリングスキームを定義し、データ変換にわたる一貫性を保証する。
• クラスタのサイズに基づいてフィルタリングする関手 $\mathfrak{H}^m$ を導入し、$m$ 個未満の点を含むクラスタを単集合に変換することで、ノイズや外れ値を除去する。
• $\mathfrak{R}^{\Delta_m}$ を、しきい値関手 $\mathfrak{T}^m$ と標準的クラスタリング関手 $\mathfrak{R}$ の合成として構成し、DBSCANに類似した挙動をモデル化する。
• 恒続集合論を用いて、標準的な $r$-近傍クラスタを、小さな成分を除外することで精緻化する同値関係 $\sim_r^m$ を定義する。
• 階層的クラスタリングにこの枠組みを適用し、複数スケールでのクラスタ構造を明らかにするデンドログラムを生成する。$m$ の増加に伴いクラスタの明確さが向上する。
• 単射写像における関手的性質が、安定性および位相的データ解析への適合性を保証し、ジグザグ図式や単体的複体の構築を可能にする。

実験結果

リサーチクエスチョン

• RQ1 関手的性質を強制することで、クラスタリングスキームの分類が達成可能か。クライネルグの不可能性結果が、存在と一意性の定理に置き換えられるか。
• RQ2 excisiveness や関手的性質といった構造的条件が、有効なクラスタリングスキームの空間をどのように制約し、拡張するか。
• RQ3 クラスタサイズフィルタリング（$m$-しきい値）が、ノイズ耐性の向上と密度感受性の向上に果たす役割は何か。
• RQ4 提案された関手 $\mathfrak{H}^m$ と $\mathfrak{R}^{\Delta_m}$ は、DBSCAN やシングルリンクなどの既存手法とどのように関係するか。
• RQ5 関手的性質が、特に位相的データ解析において、安定性と幾何的解釈をどのように支援するか。

主な発見

• 関手的枠組みのもとで、excisiveクラスタリングスキームの完全な分類が達成され、このようなスキームが単射写像における挙動によって一意に決定されることを示した。
• $\mathfrak{H}^m$ は、小さなクラスタをノイズとして除去する体系的な方法を提供し、$\mathfrak{H}^2$ は標準的クラスタリング関手 $\mathfrak{R}$ に還元される。
• $\mathfrak{R}^{\Delta_m}$ の構成は、最小クラスタサイズ $m$ を組み込むことでDBSCANを一般化する。$\mathfrak{R}^{\Delta_2} = \mathfrak{R}$ であり、$m$ を大きくすることでデンドログラムのクラスタ分離度が向上する。
• 50点のデータセットに対して $m=2,3,4$ で $\mathfrak{R}^{\Delta_m}$ を適用したデンドログラムは、$m$ が高くなるほどクラスタの分離が明確になることを示し、密度感受性の有効性を検証した。
• 関手的クラスタリングスキームは、ジグザグ図式や単体的複体といった高度な位相的構成を可能にし、サンプル間での安定性解析を可能にする。
• この枠組みは、関手的性質が理論的に望ましいだけでなく、実用的にも有益であることを示しており、原理的かつ幾何的根拠に基づいたクラスタリングのアプローチを可能にする。