[论文解读] Clusters and water flows: a novel approach to modal clustering through Morse theory

José E. Chacón|arXiv (Cornell University)|Dec 6, 2012

Bayesian Methods and Mixture Models参考文献 60被引用 19

一句话总结

本文通过使用Morse理论将密度函数极值点的吸引域定义为总体聚类，为模态聚类建立了严格的理论基础。在光滑性条件（Morse函数）下，这些吸引域构成空间的明确定义的划分，为非参数聚类算法提供了原则性的总体目标。

ABSTRACT

The problem of finding groups in data (cluster analysis) has been extensively studied by researchers from the fields of Statistics and Computer Science, among others. However, despite its popularity it is widely recognized that the investigation of some theoretical aspects of clustering has been relatively sparse. One of the main reasons for this lack of theoretical results is surely the fact that, unlike the situation with other statistical problems as regression or classification, for some of the cluster methodologies it is quite difficult to specify a population goal to which the data-based clustering algorithms should try to get close. This paper aims to provide some insight into the theoretical foundations of the usual nonparametric approach to clustering, which understands clusters as regions of high density, by presenting an explicit formulation for the ideal population clustering.

研究动机与目标

• 解决非参数聚类方法中缺乏正式总体目标的问题。
• 为模态聚类中的理想总体聚类提供数学上精确的定义。
• 证明密度极值点的吸引域自然构成一个理论基础坚实的聚类划分。
• 证明均值漂移及其相关算法可作为该理想聚类的估计器。
• 通过将聚类算法锚定于明确定义的总体目标，为聚类算法的理论分析开辟新路径。

提出的方法

• 使用Morse理论刻画密度函数的拓扑结构。
• 将总体聚类定义为超水平集 L(λ) = {x : f(x) ≥ λ} 的连通分支，其中 λ 高于临界值。
• 应用局部极大值（极值点）吸引域的概念作为基本聚类单元。
• 要求密度 f 为Morse函数——即光滑且临界点非退化。
• 将理论聚类划分与均值漂移算法的极限行为联系起来。
• 使用水平集和梯度流路径形式化点向其最近极值点的吸引过程。

实验结果

研究问题

• RQ1 模态聚类的理论上正确的总体聚类目标是什么？
• RQ2 密度极值点的吸引域如何被形式化定义并刻画？
• RQ3 哪些拓扑与微分几何条件能确保聚类划分的良好行为？
• RQ4 基于数据的聚类算法（如均值漂移）如何与这一理论理想相关联？
• RQ5 该理论框架能否扩展至非光滑或退化的密度函数？

主要发现

• 模态聚类中的理想总体聚类被正式定义为样本空间按密度函数局部极大值（极值点）吸引域的划分。
• 当密度函数为Morse函数时，这些吸引域是明确定义的、互不相交的，并覆盖整个空间。
• 该划分在密度函数的小扰动下保持稳定，支持聚类概念的鲁棒性。
• 在正则性条件下，均值漂移算法渐近收敛至该理论聚类划分。
• 该框架为评估聚类算法和选择带宽提供了原则性目标。
• 通过奇点理论和基于次梯度的Morse理论，可将该框架扩展至非Morse密度（例如含退化临界点或不可微性的情况）。