[论文解读] Affine-Invariant Integrated Rank-Weighted Depth: Definition, Properties and Finite Sample Analysis

Guillaume Staerman, Pavlo Mozharovskyi+1 more|arXiv (Cornell University)|Jun 21, 2021

Advanced Statistical Methods and Models被引用 4

一句话总结

本文提出了一种新型多元深度函数——仿射不变集成秩加权深度（AI-IRW），通过引入精度矩阵以实现仿射不变性，从而在原始IRW深度的基础上扩展，满足统计深度的全部四个关键公理。该方法具备鲁棒性和计算高效性，具有理论上的集中性界限，并在异常检测和污染条件下的秩一致性方面表现出色。

ABSTRACT

Because it determines a center-outward ordering of observations in $\\mathbb{R}^d$ with $d\\geq 2$, the concept of statistical depth permits to define quantiles and ranks for multivariate data and use them for various statistical tasks (e.g. inference, hypothesis testing). Whereas many depth functions have been proposed \ extit{ad-hoc} in the literature since the seminal contribution of \\cite{Tukey75}, not all of them possess the properties desirable to emulate the notion of quantile function for univariate probability distributions. In this paper, we propose an extension of the \ extit{integrated rank-weighted} statistical depth (IRW depth in abbreviated form) originally introduced in \\cite{IRW}, modified in order to satisfy the property of \ extit{affine-invariance}, fulfilling thus all the four key axioms listed in the nomenclature elaborated by \\cite{ZuoS00a}. The variant we propose, referred to as the Affine-Invariant IRW depth (AI-IRW in short), involves the covariance/precision matrices of the (supposedly square integrable) $d$-dimensional random vector $X$ under study, in order to take into account the directions along which $X$ is most variable to assign a depth value to any point $x\\in \\mathbb{R}^d$. The accuracy of the sampling version of the AI-IRW depth is investigated from a nonasymptotic perspective. Namely, a concentration result for the statistical counterpart of the AI-IRW depth is proved. Beyond the theoretical analysis carried out, applications to anomaly detection are considered and numerical results are displayed, providing strong empirical evidence of the relevance of the depth function we propose here.

研究动机与目标

• 为解决原始IRW深度缺乏仿射不变性的问题，该问题导致深度值对坐标系选择敏感。
• 开发一种满足Zuo与Serfling（2000）定义的统计深度全部四个公理（包括仿射不变性）的深度函数。
• 确保深度函数在污染和抽样变异性下保持鲁棒与稳定，尤其在高维设置中。
• 提供AI-IRW深度抽样版本的非渐近有限样本分析，包括集中性界限。
• 在各种分布和污染情景下，展示该方法在异常检测与秩排序中的实际应用价值。

提出的方法

• AI-IRW深度定义为变换后随机向量 $\Sigma^{-1/2}X$ 的IRW深度，其中 $\Sigma$ 是 $X$ 的协方差矩阵，通过精度矩阵标准化实现仿射不变性。
• 采用单位球面上均匀采样方向的蒙特卡洛近似方法计算深度，实现高效的实证估计。
• 通过非渐近集中不等式分析AI-IRW的统计对应版本，建立有限样本可靠性。
• 集成MCD（最小协方差行列式）和SC（样本协方差）进行鲁棒协方差估计，以增强污染条件下的稳定性。
• 使用Kendall’s $\tau$ 距离衡量干净数据集与污染数据集之间的秩一致性。
• 将方法应用于异常检测，并与IRW、半空间深度和半空间质量深度在高斯分布和重尾分布（学生-3分布）下进行比较。

实验结果

研究问题

• RQ1 所提出的AI-IRW深度是否满足统计深度的四个关键公理，特别是原始IRW深度未能满足的仿射不变性？
• RQ2 AI-IRW的有限样本版本在抽样变异性下的集中性与稳定性表现如何？
• RQ3 当数据受到异常值污染时，AI-IRW在多大程度上保持秩一致性和鲁棒性？
• RQ4 使用鲁棒协方差估计器（MCD 与 SC）如何影响AI-IRW的稳定性和性能？
• RQ5 在异常检测与秩排序任务中，AI-IRW与现有深度函数相比在实证上表现如何？

主要发现

• 通过使用精度矩阵 $\Sigma^{-1/2}$ 对数据进行变换，AI-IRW深度满足统计深度的全部四个公理，包括仿射不变性。
• 为AI-IRW的抽样版本建立了非渐近集中不等式，确保了有限样本下的可靠性能。
• 在污染条件下，采用MCD估计器的AI-IRW保持了较高的秩一致性（Kendall $\tau$），而IRW和基于SC的AI-IRW在异常值超过1%后迅速退化。
• 在多个样本实现和噪声方向设置下，AI-IRW深度的方差与半空间深度和半空间质量深度相当或更低。
• 该方法在异常检测中表现出色，即使在重尾分布和污染数据下，秩排序的一致性也保持较高。
• 使用MCD估计器可提升AI-IRW的鲁棒性，但IRW本身固有的鲁棒性限制了进一步改进，表明存在一种‘最坏情况’下的鲁棒性权衡。