[论文解读] Classifying Clustering Schemes

Gunnar Carlsson, Facundo Mémoli|arXiv (Cornell University)|Nov 24, 2010

Topological and Geometric Data Analysis参考文献 8被引用 8

一句话总结

本文提出了一种函子性框架，用于对有限度量空间中的聚类方案进行分类，通过在态射下强制结构一致性，以存在性和唯一性定理取代Kleinberg的不可能性结果。该框架通过诸如可除性等条件对聚类函子进行分类，并引入了新方法——如m-簇过滤和类似DBSCAN的方案——利用持久同调概念增强对密度的敏感性和对噪声的鲁棒性。

ABSTRACT

Many clustering schemes are defined by optimizing an objective function defined on the partitions of the underlying set of a finite metric space. In this paper, we construct a framework for studying what happens when we instead impose various structural conditions on the clustering schemes, under the general heading of functoriality. Functoriality refers to the idea that one should be able to compare the results of clustering algorithms as one varies the data set, for example by adding points or by applying functions to it. We show that within this framework, one can prove a theorems analogous to one of J. Kleinberg, in which for example one obtains an existence and uniqueness theorem instead of a non-existence result. We obtain a full classification of all clustering schemes satisfying a condition we refer to as excisiveness. The classification can be changed by varying the notion of maps of finite metric spaces. The conditions occur naturally when one considers clustering as the statistical version of the geometric notion of connected components. By varying the degree of functoriality that one requires from the schemes it is possible to construct richer families of clustering schemes that exhibit sensitivity to density.

研究动机与目标

• 为弥合聚类实践与形式理论之间的理论断层，以构造性、函子性框架取代Kleinberg的不可能性结果。
• 将聚类形式化为拓扑连通分量的统计类比，强调在度量空间态射下的函子性。
• 通过可除性等结构性条件对聚类方案进行分类，从而支持具有密度敏感性的更丰富的算法族。
• 开发新聚类方法——如m-簇过滤和类似DBSCAN的方案——利用持久集构造。
• 为聚类提供理论基础，支持稳定性、噪声过滤和通过函子图示的几何解释。

提出的方法

• 将聚类方案定义为从有限度量空间范畴（以单射映射为态射）到划分范畴的函子，确保在数据变换下的一致性。
• 引入函子 $\mathfrak{H}^m$，通过大小过滤聚类，将点数少于 $m$ 的簇转换为单点集，以去除噪声和离群点。
• 将 $\mathfrak{R}^{\Delta_m}$ 构造为阈值函子 $\mathfrak{T}^m$ 与标准聚类函子 $\mathfrak{R}$ 的复合，以模拟类似DBSCAN的行为。
• 利用持久集理论定义等价关系 $\sim_r^m$，通过排除小分量来细化标准的 $r$-邻域聚类。
• 将该框架应用于层次聚类，生成揭示多尺度簇结构的树状图，随着 $m$ 增大，簇的清晰度提高。
• 证明在单射态射下的函子性可确保稳定性，并与拓扑数据分析兼容，支持交错图和单纯复形的构建。

实验结果

研究问题

• RQ1 通过强制函子性是否可以实现对聚类方案的分类，从而以存在性和唯一性定理取代Kleinberg的不可能性结果？
• RQ2 可除性与函子性等结构性条件如何约束并丰富有效聚类方案的空间？
• RQ3 簇大小过滤（$m$-阈值）在增强对噪声的鲁棒性及提升密度敏感性方面发挥何种作用？
• RQ4 所提出的函子 $\mathfrak{H}^m$ 与 $\mathfrak{R}^{\Delta_m}$ 如何与DBSCAN和单链接等既定方法相关联？
• RQ5 函子性在聚类中如何支持稳定性与几何解释，特别是在拓扑数据分析中？

主要发现

• 在函子性框架下，实现了对可除聚类方案的完整分类，表明此类方案由其在单射态射上的行为唯一确定。
• 函子 $\mathfrak{H}^m$ 提供了一种系统化的方法，将小簇作为噪声过滤，且 $\mathfrak{H}^2$ 退化为标准聚类函子 $\mathfrak{R}$。
• 构造 $\mathfrak{R}^{\Delta_m}$ 通过引入最小簇大小 $m$ 对DBSCAN进行了推广，且 $\mathfrak{R}^{\Delta_2} = \mathfrak{R}$，随着 $m$ 增大，生成的树状图更加清晰。
• 在50个点的数据集上，$\mathfrak{R}^{\Delta_m}$ 对 $m=2,3,4$ 生成的树状图显示，随着 $m$ 增大，簇间分离性增强，验证了该方法对密度的敏感性。
• 函子性聚类方案支持高级拓扑构造，如交错图和单纯复形，从而实现在样本间的稳定性分析。
• 该框架表明，函子性不仅在理论上具有吸引力，而且在实践中也具有优势，支持一种有原则的、基于几何洞察的聚类方法。