[论文解读] Statistical Inference for Cluster Trees

Jisu Kim, Yen‐Chi Chen+3 more|arXiv (Cornell University)|May 20, 2016

Topological and Geometric Data Analysis参考文献 15被引用 11

一句话总结

本文提出了一种基于自举法的框架，用于对聚类树进行统计推断，通过构建置信集来识别真实聚类树，并利用偏序关系从经验聚类树中剔除统计上不显著的特征。主要贡献在于提出了一种系统性、数据驱动的方法，以区分真实的拓扑特征与抽样噪声，在合成数据和GvHD数据集上均得到验证。

ABSTRACT

A cluster tree provides a highly-interpretable summary of a density function by representing the hierarchy of its high-density clusters. It is estimated using the empirical tree, which is the cluster tree constructed from a density estimator. This paper addresses the basic question of quantifying our uncertainty by assessing the statistical significance of topological features of an empirical cluster tree. We first study a variety of metrics that can be used to compare different trees, analyze their properties and assess their suitability for inference. We then propose methods to construct and summarize confidence sets for the unknown true cluster tree. We introduce a partial ordering on cluster trees which we use to prune some of the statistically insignificant features of the empirical tree, yielding interpretable and parsimonious cluster trees. Finally, we illustrate the proposed methods on a variety of synthetic examples and furthermore demonstrate their utility in the analysis of a Graft-versus-Host Disease (GvHD) data set.

研究动机与目标

• 为解决聚类中缺乏统计推断方法的问题，特别是评估聚类树中拓扑特征显著性的问题。
• 构建有效的置信集，使得真实聚类树以预设概率被包含在内。
• 在聚类树上定义偏序关系，以识别并从经验树中去除统计上不显著的特征。
• 通过剔除噪声，在保持统计保证的前提下，获得简洁且可解释的聚类树。
• 在合成数据和真实世界的GvHD数据集上展示该方法的实用性。

提出的方法

• 使用核密度估计器从独立同分布样本中构建经验聚类树 $T_{\widehat{p}_h}$。
• 采用多种树度量来比较聚类树，并选择适用于自举推断的度量。
• 应用自举法，为真实聚类树 $T_{p_0}$ 构建紧密、数据驱动的置信集。
• 在聚类树上引入偏序关系，以定义“更简单”的树，并识别经验树的剪枝版本。
• 提出一种基于聚类“寿命”函数的剪枝方法，移除持久性短（显著性低）的特征。
• 构建一个代表性剪枝树 $\widetilde{p}$，使其聚类树与剪枝后的经验树一致，并且位于置信集中。

实验结果

研究问题

• RQ1 如何量化从有限样本估计的聚类树中拓扑特征的统计显著性？
• RQ2 在自举重抽样下，哪些树度量适用于构建有效的置信集？
• RQ3 如何在聚类树上定义偏序关系，以识别更简洁、更易解释的结构？
• RQ4 我们能否构建一个仅保留统计显著特征的剪枝聚类树，同时保持有效的统计覆盖？
• RQ5 所提出的方法在真实和合成数据中区分真实聚类结构与抽样伪影方面的表现如何？

主要发现

• 所提方法通过自举重抽样构建真实聚类树的置信集，确保真实树以预设概率被包含在内。
• 聚类树上的偏序关系使得能够识别出更简洁且统计上有效的经验树剪枝版本。
• 基于聚类持久性（寿命函数）的剪枝方法能有效去除噪声特征，从而得到更具可解释性的聚类树。
• 剪枝树 $\text{Pruned}_{\text{life},\widehat{t}_\alpha}(\widehat{T}_h)$ 被保证是置信集的有效代表，满足 $\widetilde{p} \in \widehat{C}_\alpha$。
• 该方法在合成示例和GvHD数据集中成功区分了真实聚类结构与虚假特征，展示了实际应用价值。
• 理论结果表明，当带宽 $h$ 较小时，真实密度的拓扑结构 $T_{p_0}$ 与平滑核估计器 $T_{p_h}$ 在拓扑上是等价的。