[论文解读] Statistical depth meets computational geometry: a short survey

Peter J. Rousseeuw, Mia Hubert|arXiv (Cornell University)|Jan 1, 2015

Advanced Statistical Methods and Models参考文献 64被引用 6

一句话总结

本文综述了统计深度与计算几何的交叉领域，重点探讨了计算多元深度度量（如半空间深度）的算法及其在稳健统计中的应用。文章提出了高效的计算技术——尤其是几何与组合算法——用于计算深度、中位数和深度区域，主要贡献包括输出敏感算法，以及与稳健回归和聚类的关联。

ABSTRACT

During the past two decades there has been a lot of interest in developing statistical depth notions that generalize the univariate concept of ranking to multivariate data. The notion of depth has also been extended to regression models and functional data. However, computing such depth functions as well as their contours and deepest points is not trivial. Techniques of computational geometry appear to be well-suited for the development of such algorithms. Both the statistical and the computational geometry communities have done much work in this direction, often in close collaboration. We give a short survey of this work, focusing mainly on depth and multivariate medians, and end by listing some other areas of statistics where computational geometry has been of great help in constructing efficient algorithms.

研究动机与目标

• 综述计算几何技术在多元与函数型数据分析中统计深度方法中的整合。
• 解决高维数据中深度函数、深度轮廓和最深点计算的计算挑战。
• 突出提升Tukey深度、回归深度及相关稳健估计量计算效率的算法。
• 展示几何算法如何增强多元与函数型数据分析中统计稳健性与异常值检测能力。
• 识别深度基推理与计算统计学中的开放问题与未来研究方向。

提出的方法

• 以半空间深度（Tukey深度）为核心数据中心度量，定义为通过点θ的任意闭半空间中所含点的最小数量。
• 应用投影、对偶性和排列等几何技术，将高维深度计算问题转化为低维问题。
• 采用输出敏感算法高效计算深度区域与Tukey中位数，尤其在高维情形下。
• 利用计算几何工具如拓扑扫描与混合整数规划，实现稳健回归（如LMS、重复中位数）。
• 提出bagdistance——一种基于深度区域的几何范数类度量——用于异常值检测与分类。
• 在精确计算不可行时，采用近似算法与增量更新方法处理大规模或流式数据。

实验结果

研究问题

• RQ1 如何利用计算几何技术高效计算多元深度函数及其轮廓？
• RQ2 在高维空间中，计算半空间深度与回归深度的算法复杂度与性能界为何？
• RQ3 基于深度的稳健估计量（如Tukey中位数）在崩溃值与仿射不变性方面与经典估计量相比如何？
• RQ4 几何算法在提升L1回归与LMS回归等稳健统计方法效率方面有哪些作用？
• RQ5 如何形式化并应用基于深度的工具（如bagdistance）于函数型数据分析与分类中？

主要发现

• Tukey中位数的崩溃值至少为1/(d+1)，在椭球对称下理论崩溃值可达1/3，表现出高度稳健性。
• 在Rd中，半空间深度的输出敏感算法时间复杂度为O(nd−1 log n)，显著优于朴素的O(nd+1)方法。
• 对于双变量数据，拓扑扫描可实现LMS回归的O(n²)算法，而随机化算法可实现中位数斜率回归的O(n log n)复杂度。
• bagdistance基于深度区域构造，满足所有范数公理，但对负标量不满足齐次性，从而支持稳健的距离基推理。
• 存在半空间深度与Tukey中位数的近似算法，包括最速下降法与随机化方法，适用于大规模或流式数据。
• 计算几何已实现聚类、回归与深度计算的高效求解，NP难性结果凸显了对几何启发式与近似方法的需求。