[论文解读] Optimal Ridge Detection using Coverage Risk

Yen‐Chi Chen, Christopher R. Genovese+2 more|arXiv (Cornell University)|Jun 7, 2015

Statistical Methods and Inference参考文献 20被引用 9

一句话总结

本文引入了覆盖风险（coverage risk）作为密度脊估计中一种新颖的误差度量，将均方积分误差推广至集合估计。通过使用数据分割或平滑自举法进行一致的风险估计，提出了SCMS算法的数据驱动调参方法，在模拟数据和宇宙学数据中均实现了最优的脊结构检测。

ABSTRACT

We introduce the concept of coverage risk as an error measure for density ridge estimation. The coverage risk generalizes the mean integrated square error to set estimation. We propose two risk estimators for the coverage risk and we show that we can select tuning parameters by minimizing the estimated risk. We study the rate of convergence for coverage risk and prove consistency of the risk estimators. We apply our method to three simulated datasets and to cosmology data. In all the examples, the proposed method successfully recover the underlying density structure.

研究动机与目标

• 解决SCMS算法在密度脊估计中带宽选择这一长期存在的问题。
• 提出一种有原则的误差度量——覆盖风险，用于评估脊集合估计的准确性。
• 利用数据分割和平滑自举法，为覆盖风险提供一致的估计器，以实现数据驱动的带宽选择。
• 确保所提出的风险估计器具有理论一致性及最优收敛速率。
• 在模拟数据集和真实的宇宙学数据上展示该方法的有效性，成功恢复真实的潜在脊结构。

提出的方法

• 将覆盖风险定义为在脊集合上使用均匀测度时，真实脊与估计脊之间期望平均距离。
• 提出两种风险估计器：一种通过数据分割，另一种通过平滑自举法，以一致地估计覆盖风险。
• 利用Hausdorff距离和投影距离，将覆盖风险与脊集合的几何性质联系起来。
• 通过在弱正则性条件下证明依概率收敛，建立风险估计器的理论一致性。
• 推导风险差的渐近展开式，以证明使用估计风险进行带宽选择的合理性。
• 应用估计风险最小化方法，选择SCMS算法中的最优平滑带宽 $ h $。

实验结果

研究问题

• RQ1 在传统基于函数的误差度量不充分的情况下，如何为密度脊的集合估计定义一个有意义的误差度量？
• RQ2 能否仅利用观测数据，无需真实脊结构知识，一致地估计覆盖风险？
• RQ3 最小化估计的覆盖风险是否能导致SCMS算法中带宽选择的最优性？
• RQ4 所提出的风险估计器及其所得脊估计的理论收敛速率如何？
• RQ5 该方法能否在真实世界数据（如宇宙学数据集）中成功恢复复杂的脊结构？

主要发现

• 所提出的覆盖风险为密度脊估计提供了一个理论基础坚实且可解释的误差度量，将均方积分误差推广至集合估计。
• 基于数据分割和平滑自举法的覆盖风险估计器具有一致性，在弱正则性条件下依概率收敛于真实风险。
• 该方法实现了风险估计器的最优收敛速率，风险差相对于真实风险依概率收敛于零。
• 在模拟数据集（螺旋形、三螺旋形、NIPS）上的实证结果表明，通过风险最小化进行的带宽选择能成功恢复潜在的脊结构。
• 在宇宙学数据中，该方法检测到了宇宙网中详细的丝状网络结构，优于过平滑和欠平滑的替代方法。
• 理论分析证实，基于最小化估计覆盖风险的带宽选择规则可导致一致的脊估计，前提是 $ h \to 0 $ 且 $ \frac{\log n}{n h^{d+6}} \to 0 $。