[论文解读] Density Level Sets: Asymptotics, Inference, and Visualization

Yen‐Chi Chen, Christopher R. Genovese+1 more|arXiv (Cornell University)|Apr 21, 2015

Anomaly Detection Techniques and Applications参考文献 49被引用 6

一句话总结

本文为核密度平滑下密度分位数集在Hausdorff损失下的渐近理论提供了理论基础，并提出了两种基于自助法的置信区域，用于平滑后的分位数集。该研究提出了一种新颖且可解释的可视化方法，能够保留高维数据中的几何结构，从而实现对聚类、异常检测和两样本检验等任务的高效推断与可视化。

ABSTRACT

We derive asymptotic theory for the plug-in estimate for density level sets under Hausdoff loss. Based on the asymptotic theory, we propose two bootstrap confidence regions for level sets. The confidence regions can be used to perform tests for anomaly detection and clustering. We also introduce a technique to visualize high dimensional density level sets by combining mode clustering and multidimensional scaling.

研究动机与目标

• 建立在核密度平滑下，估计的密度分位数集与真实密度分位数集之间Hausdorff距离的极限分布。
• 为密度分位数集开发有效的基于自助法的置信区域，解决随机集估计的挑战。
• 创建一种可视化技术，能够在高维空间中保留分位数集的几何信息，实现直观解释。
• 通过分位数集实现对异常检测、聚类和两样本检验等应用的统计推断与可视化。

提出的方法

• 推导在核密度估计下，插补估计量 $\widehat{D}_h$ 与真实平滑分位数集 $D_h$ 之间Hausdorff距离的渐近分布。
• 提出两种自助法：一种基于Hausdorff损失，另一种基于上确界损失，两者均被证明在构造置信区域时具有渐近有效性。
• 引入一种断层扫描可视化方法，利用多维缩放技术映射多个密度水平下局部极值点、其吸引域以及连接关系。
• 通过每个极值点吸引域的半径（与质量成比例）和线宽（与合并吸引域质量成比例）来编码聚类大小与连通性。
• 通过将自助法分位数转换为等价的密度水平，将可视化方法适配于置信集，实现在单张图中叠加多个置信水平。
• 采用均值漂移算法识别局部极值点，并根据密度梯度流将数据点分配给最近的极值点。

实验结果

研究问题

• RQ1 在核平滑下，估计的密度分位数集与真实密度分位数集之间Hausdorff距离的极限分布是什么？
• RQ2 是否可以使用自助法为密度分位数集的随机集估计器构造有效的置信区域？
• RQ3 如何在高维数据中可视化密度分位数集，同时保留其几何与拓扑结构？
• RQ4 能否将分位数集的置信集反演为关于密度值的局部假设检验？
• RQ5 如何有效可视化多维数据中多个密度阈值下分位数集的演化过程？

主要发现

• 本文建立了Hausdorff距离 $\text{Haus}(\widehat{D}_h, D_h)$ 的极限分布，从而实现了对密度分位数集的渐近推断。
• 基于Hausdorff损失和上确界损失的两种自助法均被证明对构造 $D_h$ 的置信区域具有渐近有效性。
• 可视化方法成功保留了几何结构，并在高达10维的数据中实现了对分位数集的直观解释，其有效性在模拟数据集中得到验证。
• 通过上确界损失自助法获得的置信集可可视化为不同密度阈值下的嵌套分位数集，简化了多水平推断。
• 该方法允许将置信集反演为局部检验，从而通过检验某点密度是否高于或低于阈值来实现异常检测。
• 断层扫描可视化方法有效捕捉了聚类的层次结构及其在不同密度水平下的演化过程，其中线宽和圆的半径分别编码聚类质量与连通性。