[论文解读] Consistent clustering using an $\ell_1$ fusion penalty

Peter Radchenko, Gourab Mukherjee|arXiv (Cornell University)|Dec 2, 2014

Statistical Methods and Inference参考文献 40被引用 4

一句话总结

本文提出了一种使用ℓ₁融合惩罚的统一凸聚类方法，以最小化组内平方和，并证明了样本聚类过程在大样本下渐近估计其总体对应结构。通过将聚类重新解释为一系列通过最大化问题确定的分裂决策，作者利用经验过程理论建立了统一收敛性，并提出了一种后处理优化方法，在模拟数据和单细胞病毒学数据中均提升了聚类数量与模态检测的性能。

ABSTRACT

We study the large sample behavior of a convex clustering framework, which minimizes the sample within cluster sum of squares under an $\ell_1$ fusion constraint on the cluster centroids. This recently proposed approach has been gaining in popularity, however, its asymptotic properties have remained mostly unknown. Our analysis is based on a novel representation of the sample clustering procedure as a sequence of cluster splits determined by a sequence of maximization problems. We use this representation to provide a simple and intuitive formulation for the population clustering procedure, and demonstrate that the sample procedure consistently estimates its population analog. The proof conducts a careful simultaneous analysis of a growing number of M-estimation problems, taking advantage of results from the empirical process theory to establish uniform convergence of the sample criterion functions to their population counterparts. Based on the new perspectives gained from the asymptotic investigation, we propose a key post-processing modification of the original clustering approach. Using simulated data, we compare the proposed method with existing number of clusters and modality assessment approaches, and obtain encouraging results. We also demonstrate the applicability of our clustering method for the detection of cellular subpopulations in a single-cell virology study.

研究动机与目标

• 建立带有ℓ₁融合惩罚的凸聚类框架在大样本下的行为特性，该框架作用于聚类中心。
• 解决当前日益流行的聚类方法在渐近性质方面理论理解不足的问题。
• 提出一种总体水平的聚类程序，作为样本聚类方法的理论基准。
• 提出一种后处理改进方法，以增强对真实聚类数量和聚类模态的识别能力。
• 在模拟数据和真实单细胞病毒学数据上验证该方法在检测细胞亚群方面的性能。

提出的方法

• 将样本聚类过程表示为通过求解一系列最大化问题所确定的聚类分裂序列。
• 从样本过程的序列分裂结构出发，提出一种新颖的总体水平聚类公式。
• 利用经验过程理论，证明样本准则函数一致收敛于其总体对应函数。
• 采用对增长数量的M-估计问题进行联合分析的方法，以应对聚类过程复杂度的提升。
• 提出一种后处理步骤，通过利用序列分裂结构和一致性结果来优化聚类分配。
• 使用模拟数据将该方法与现有方法进行比较，以评估聚类数量和模态的识别性能。

实验结果

研究问题

• RQ1 使用ℓ₁融合惩罚的样本聚类过程是否能一致估计真实的总体聚类结构？
• RQ2 聚类的序列分裂表示是否可用于定义一个连贯且可解释的总体水平聚类程序？
• RQ3 与现有方法相比，所提出的后处理步骤在聚类数量和聚类模态检测方面有何改进？
• RQ4 该聚类过程在样本量不断增加时的一致性具有何种理论依据？
• RQ5 该方法是否能有效检测单细胞病毒学数据中的生物学上有意义的细胞亚群？

主要发现

• 证明了样本聚类过程的一致性，即其在大样本下能渐近恢复真实的总体聚类结构。
• 通过序列分裂表示，正式定义了总体聚类程序，提供了清晰的理论基础。
• 所提出的后处理改进方法在模拟数据中显著提升了对正确聚类数量的识别能力以及对聚类模态的检测能力。
• 该方法在单细胞病毒学数据集中成功检测出具有生物学意义的细胞亚群，展示了其实际应用价值。
• 通过新颖的M-estimation问题联合分析，建立了样本准则函数向其总体对应函数的统一收敛性。
• 理论框架为凸聚类提供了一种新视角，即将其视为一系列优化步骤，增强了可解释性与一致性。