[论文解读] Fast computation of Tukey trimmed regions and median in dimension $p>2$

Xiaohui Liu, Karl Mosler+1 more|arXiv (Cornell University)|Dec 16, 2014

Advanced Statistical Methods and Models参考文献 35被引用 5

一句话总结

本文提出了两种新颖的算法，用于在 $p > 2$ 维下快速计算 Tukey $\kappa$-截断区域和 Tukey 中位数，克服了多元非参数统计中长期存在的计算瓶颈。较快的算法采用广度优先的逐脊搜索策略，显著降低了内存使用量和计算时间；第二个算法首次在 $p > 2$ 维下计算出最内层的 Tukey 区域及其形心（即 Tukey 中位数），经验验证表明其相比现有方法具有显著的速度提升。

ABSTRACT

Given data in $\mathbb{R}^{p}$, a Tukey $κ$-trimmed region is the set of all points that have at least Tukey depth $κ$ w.r.t. the data. As they are visual, affine equivariant and robust, Tukey regions are useful tools in nonparametric multivariate analysis. While these regions are easily defined and interpreted, their practical use in applications has been impeded so far by the lack of efficient computational procedures in dimension $p > 2$. We construct two novel algorithms to compute a Tukey $κ$-trimmed region, a naïve one and a more sophisticated one that is much faster than known algorithms. Further, a strict bound on the number of facets of a Tukey region is derived. In a large simulation study the novel fast algorithm is compared with the naïve one, which is slower and by construction exact, yielding in every case the same correct results. Finally, the approach is extended to an algorithm that calculates the innermost Tukey region and its barycenter, the Tukey median.

研究动机与目标

• 为解决在 $p > 2$ 维下基于 Tukey 深度的区域缺乏高效计算方法的问题，该问题长期限制了其在多元非参数分析中的实际应用。
• 开发一种快速且内存高效的算法，用于计算 Tukey $\kappa$-截断区域，避免存储大型几何结构。
• 构建首个能够计算 $p > 2$ 维下最内层 Tukey 区域及其形心（即 Tukey 中位数）的算法。
• 提供一个计算框架，使 Tukey 深度在异常值检测、置信区域和风险分析等应用中得以实际使用。
• 在 R 包 TukeyRegion 中实现并验证这些算法，以提升可及性与可复现性。

提出的方法

• 提出算法 1，采用广度优先的逐脊搜索策略，避免存储方向锥或超平面排列，将每条脊的内存使用量降低至 $\lceil\frac{p-1}{8}\log_2 n\rceil$ 字节。
• 对 Tukey 区域的面数施加严格约束，以限制计算复杂度并指导搜索过程。
• 在算法 2 中使用改进的二分查找过程，通过在候选点上迭代评估 Tukey 深度来定位 Tukey 中位数。
• 通过线性规划和事后优化技术高效计算 Tukey 深度，以加速收敛。
• 通过扰动数据进行鲁棒性检查，确保数据处于一般位置，对区域形状影响可忽略。
• 通过与朴素精确算法比较以及与 HPS 方法的基准测试来验证正确性。

实验结果

研究问题

• RQ1 能否在不存储大型几何结构的前提下，为 $p > 2$ 维下的 Tukey $\kappa$-截断区域计算开发一种计算高效的算法？
• RQ2 如何在保持精度的同时降低 Tukey 区域计算的时间与内存复杂度？
• RQ3 是否可行通过一种新型基于二分查找的方法，计算 $p > 2$ 维下的最内层 Tukey 区域及其形心（即 Tukey 中位数）？
• RQ4 与 HPS 和朴素枚举等现有方法相比，所提算法在速度与内存使用方面的性能如何？
• RQ5 Tukey 区域的面数如何随数据规模与维度变化？该特性能否被用于优化？

主要发现

• 算法 1 相较于以往方法，速度最高提升 100 倍，内存使用最高减少 1000 倍，尤其在 $p \geq 5$ 时表现显著。
• 包含 Tukey 区域面的超平面数量远小于早期算法步骤中检查的超平面数量，从而实现了高效的剪枝。
• 该算法在所有测试情况下均正确计算出 Tukey $\kappa$-截断区域，结果与精确的朴素算法完全一致。
• 首次在 $p > 2$ 维下通过算法 2 计算出最内层 Tukey 区域及其形心（即 Tukey 中位数）。
• 模拟研究证实，算法 1 在速度与内存效率方面均优于 HPS 方法，尤其在样本量较大与维度较高时优势明显。
• R 包 TukeyRegion 实现了所有算法，并包含用于可视化 3D 深度等高线与区域的工具。