[论文解读] Generalized Cluster Trees and Singular Measures

Yen‐Chi Chen|arXiv (Cornell University)|Nov 8, 2016

Topological and Geometric Data Analysis参考文献 42被引用 5

一句话总结

本文提出 $α$-cluster tree 作为传统基于密度的聚类树在奇异测度下的稳健替代方案，尤其在密度函数未定义的奇异测度下表现优异。研究建立了临界点附近水平集的收敛速率，证明了在重缩放下核密度估计器（KDE）的逐点一致性，并通过积分距离证明了估计 $α$-tree 的拓扑一致性，即使在 $L_{\infty}$ 收敛失败的情况下也成立。研究进一步识别出维度临界点（DCPs）作为奇异测度下独有的拓扑特征。

ABSTRACT

In this paper, we study the $α$-cluster tree ($α$-tree) under both singular and nonsingular measures. The $α$-tree uses probability contents within a level set to construct a cluster tree so that it is well-defined for singular measures. We first derive the convergence rate for a density level set around critical points, which leads to the convergence rate for estimating an $α$-tree under nonsingular measures. For singular measures, we study how the kernel density estimator (KDE) behaves and prove that the KDE is not uniformly consistent but pointwisely consistent after rescaling. We further prove that the estimated $α$-tree fails to converge in the $L_\infty$ metric but is still consistent under the integrated distance. We also observe a new type of critical points--the dimensional critical points (DCPs)--of a singular measure. DCPs occur only at singular measures, and similar to the usual critical points, DCPs contribute to cluster tree topology as well. Building on the analysis of the KDE and DCPs, we prove the topological consistency of an estimated $α$-tree.

研究动机与目标

• 将聚类树方法扩展至传统基于密度的聚类树无法定义的奇异测度场景。
• 分析在奇异测度下核密度估计器（KDE）的行为，特别是其缺乏一致性的特性。
• 在 $L_{\infty}$ 收敛失败的情况下，建立估计 $α$-树在积分距离下的拓扑一致性。
• 识别并表征一类新型临界点——维度临界点（DCPs），这些临界点影响奇异测度下的聚类拓扑结构。
• 推导临界点附近水平集的收敛速率，并将这些结果推广至非奇异与奇异测度下的 $α$-树估计。

提出的方法

• 采用 $\alpha(x) = P(\{y: p(y) \leq p(x)\})$ 的 $α$-树构造方法，即使在奇异测度下也保持良好定义。
• 应用带宽选择的核密度估计（KDE）来估计 $p_n(x)$ 和 $\alpha_n(x)$，从而实现从数据中估计 $α$-树。
• 通过局部展开和偏差-方差分解，推导临界点附近水平集的收敛速率，特别针对 $α$-树估计。
• 引入维度临界点（DCPs）的概念，作为奇异测度中出现的拓扑特征，无法通过密度梯度检测。
• 利用 Talagrand 不等式以及对梯度和 Hessian 估计的统一有界性，控制临界点检测中的误差。
• 通过函数、梯度和 Hessian 误差项 $\delta^{(j)}_{n,h,s}$（$j=0,1,2$）的有界性，证明估计 $α$-树在积分距离度量下收敛于真实树，从而实现拓扑一致性。

实验结果

研究问题

• RQ1 当传统基于密度的聚类树失效的奇异测度下，$α$-聚类树的行为如何？
• RQ2 在非奇异测度下，估计 $α$-树在临界点附近的收敛速率是多少？
• RQ3 核密度估计器（KDE）在奇异测度下是否具有一致性？若否，其保留了哪些一致性性质？
• RQ4 当 $L_{\infty}$ 收敛失败时，估计 $α$-树能否实现拓扑一致性？
• RQ5 奇异测度下出现了哪些新型临界点？它们如何影响聚类树的拓扑结构？

主要发现

• 在奇异测度下，KDE 不具有一致一致性，但在适当的重缩放下具有逐点一致性。
• 在奇异测度下，估计 $α$-树在 $L_{\infty}$ 范数下不收敛，但在积分距离度量下仍保持一致性。
• 识别出一类新型临界点——维度临界点（DCPs），其为奇异测度下独有的拓扑特征，无法通过密度梯度检测。
• 对于非奇异测度，本文推导了临界点处估计水平集的收敛速率，进而得到 $α$-树的收敛速率。
• 证明了估计 $α$-树的拓扑一致性：$P(T_{\widehat{\alpha}_n} \overset{T}{\approx} T_\alpha) \geq 1 - c_3 \cdot e^{-c_5 \cdot nh^{d+4}}$，其中 $c_5 > 0$，在适当的带宽条件下成立。
• 误差项 $\delta^{(j)}_{n,h,s}$ 的收敛速率受控于 $c_1 h^{2 \land m(x)} + c_2 Z_d$，其中 $Z_d = O_P\left(\sqrt{\frac{\log n}{nh^{d+4}}}\right)$，从而确保了拓扑稳定性。