[論文レビュー] Clusters and water flows: a novel approach to modal clustering through Morse theory

José E. Chacón|arXiv (Cornell University)|Dec 6, 2012

Bayesian Methods and Mixture Models参考文献 60被引用数 19

ひとこと要約

本稿は、モーツァー理論を用いて密度関数の極値の吸引域として母集団クラスタを定義することにより、モーダルクラスタリングの厳密な理論的基盤を提案する。滑らかさの条件（モーツァー関数）のもとで、これらの吸引域は空間を明確に分割するものであり、非パラメトリッククラスタリング手法の原則的母集団目的を提供する。

ABSTRACT

The problem of finding groups in data (cluster analysis) has been extensively studied by researchers from the fields of Statistics and Computer Science, among others. However, despite its popularity it is widely recognized that the investigation of some theoretical aspects of clustering has been relatively sparse. One of the main reasons for this lack of theoretical results is surely the fact that, unlike the situation with other statistical problems as regression or classification, for some of the cluster methodologies it is quite difficult to specify a population goal to which the data-based clustering algorithms should try to get close. This paper aims to provide some insight into the theoretical foundations of the usual nonparametric approach to clustering, which understands clusters as regions of high density, by presenting an explicit formulation for the ideal population clustering.

研究の動機と目的

• 非パラメトリッククラスタリング手法における形式的な母集団目的の欠如に応えること。
• モーダルクラスタリングにおける理想母集団クラスタリングの数学的に正確な定義を提供すること。
• 密度極値の吸引域が自然で理論的に裏付けられたクラスタリング分割を形成することを確立すること。
• ミーンシフトおよび関連アルゴリズムがこの理想クラスタリングの推定器として正当化されることを示すこと。
• 理論的母集団ターゲットに anchored されたクラスタリングアルゴリズムの理論的分析への道筋を開くこと。

提案手法

• モーツァー理論を用いて密度関数のトポロジカル構造を特徴付ける。
• 臨界値より高い λ に対して、超レベル集合 L(λ) = {x : f(x) ≥ λ} の連結成分として母集団クラスタを定義する。
• 局所的最大値（モード）の吸引域の概念を、基本的なクラスタリング単位として適用する。
• 密度関数 f がモーツァー関数（滑らかで非退化な臨界点を持つ）であることを要件とする。
• 理論的クラスタリング分割とミーンシフトアルゴリズムの極限的挙動を結びつける。
• レベル集合と勾配フロー経路を用いて、点がその近傍モードに引き付けられる仕組みを形式化する。

実験結果

リサーチクエスチョン

• RQ1 モーダルクラスタリングにおける理論的に正しい母集団クラスタリングの目的は何か？
• RQ2 密度極値の吸引域はどのように形式的に定義され、特徴づけられるか？
• RQ3 適切に振る舞うクラスタリング分割を保証するトポロジカルおよび微分幾何的条件は何か？
• RQ4 ミーンシフトのようなデータベースのクラスタリングアルゴリズムは、この理論的理想とどのように関係するか？
• RQ5 この理論的枠組みは、滑らかでない、または退化した密度関数へと拡張可能か？

主な発見

• モーダルクラスタリングにおける理想母集団クラスタリングは、密度関数の局所的最大値（モード）の吸引域への標本空間の分割として形式的に定義される。
• 密度関数がモーツァー関数である限り、これらの吸引域は明確に定義され、互いに素で、空間全体を覆う。
• 密度関数の小さな摂動に対してもこの分割は安定しており、クラスタリング概念の頑健性を支持する。
• 正則性条件の下で、ミーンシフトアルゴリズムは理論的クラスタリング分割に漸近的に収束する。
• この枠組みは、クラスタリングアルゴリズムの評価やバンド幅の選択のための原則的ターゲットを提供する。
• 特異点理論および部分勾配に基づくモーツァー理論を用いることで、非モーツァー密度（退化した臨界点や非微分可能性を含む）への拡張も可能である。