[논문 리뷰] Affine-Invariant Integrated Rank-Weighted Depth: Definition, Properties and Finite Sample Analysis

Guillaume Staerman, Pavlo Mozharovskyi외 1명|arXiv (Cornell University)|2021. 06. 21.

Advanced Statistical Methods and Models인용 수 4

한 줄 요약

이 논문은 IRW 깊이를 정밀도 행렬을 통합하여 애핀 불변성을 확보함으로써 모든 네 가지 주요 통계 깊이 공리(axiom)를 만족하는 새로운 다변량 깊이 함수인 애핀 불변 통합 순위 가중 깊이(AI-IRW)를 제안한다. 이 방법은 강건성과 계산 효율성을 확보하며, 이론적 농도 경계와 오염 상황 하에서의 이상치 탐지 및 순위 일致성에서 뛰어난 실증 성능을 보인다.

ABSTRACT

Because it determines a center-outward ordering of observations in $\\mathbb{R}^d$ with $d\\geq 2$, the concept of statistical depth permits to define quantiles and ranks for multivariate data and use them for various statistical tasks (e.g. inference, hypothesis testing). Whereas many depth functions have been proposed \ extit{ad-hoc} in the literature since the seminal contribution of \\cite{Tukey75}, not all of them possess the properties desirable to emulate the notion of quantile function for univariate probability distributions. In this paper, we propose an extension of the \ extit{integrated rank-weighted} statistical depth (IRW depth in abbreviated form) originally introduced in \\cite{IRW}, modified in order to satisfy the property of \ extit{affine-invariance}, fulfilling thus all the four key axioms listed in the nomenclature elaborated by \\cite{ZuoS00a}. The variant we propose, referred to as the Affine-Invariant IRW depth (AI-IRW in short), involves the covariance/precision matrices of the (supposedly square integrable) $d$-dimensional random vector $X$ under study, in order to take into account the directions along which $X$ is most variable to assign a depth value to any point $x\\in \\mathbb{R}^d$. The accuracy of the sampling version of the AI-IRW depth is investigated from a nonasymptotic perspective. Namely, a concentration result for the statistical counterpart of the AI-IRW depth is proved. Beyond the theoretical analysis carried out, applications to anomaly detection are considered and numerical results are displayed, providing strong empirical evidence of the relevance of the depth function we propose here.

연구 동기 및 목표

• 원래 IRW 깊이에서 애핀 불변성이 부족하여 좌표계 선택에 민감한 깊이 값이 되는 문제를 해결하기 위해.
• Zuo & Serfling (2000)이 정의한 바와 같이 모든 네 가지 통계 깊이 공리, 특히 애핀 불변성을 만족하는 깊이 함수를 개발하기 위해.
• 특히 고차원 설정에서 오염과 표본 변동성 하에서도 깊이 함수가 강건하고 안정적으로 유지되도록 보장하기 위해.
• AI-IRW 깊이의 표본 버전에 대한 비점근적 유한표본 분석, 특히 농도 경계를 포함하여.
• 다양한 분포 및 오염 상황 하에서 이상치 탐지 및 순위 정렬 작업에서의 실용적 유용성을 입증하기 위해.

제안 방법

• AI-IRW 깊이는 $\Sigma^{-1/2}X$의 IRW 깊이로 정의되며, 여기서 $\Sigma$는 $X$의 공분산 행렬이다. 이는 정밀도 행렬을 통한 표준화를 통해 애핀 불변성을 보장한다.
• 깊이를 효율적으로 추정하기 위해 단위 구면에서 균일하게 샘플링된 방향에 대해 몬테카를로 근사를 사용한다.
• 비점근적 농도 부등식을 통해 AI-IRW의 통계적 대응을 분석함으로써 유한표본 신뢰성을 확보한다.
• 오염 상황에서의 안정성을 향상시키기 위해 MCD(최소 공분산 행렬)와 SC(표본 공분산)를 통한 강건한 공분산 추정을 통합한다.
• 청결한 데이터 세트와 오염된 데이터 세트 간의 순위 일치성을 측정하기 위해 켄달의 $\tau$ 거리 사용.
• 가우시안 및 꼬리가 두꺼운(Student-3) 분포에서 IRW, 반평면 깊이, 반평면 질량 깊이와의 비교를 통해 이상치 탐지에 적용.

실험 결과

연구 질문

• RQ1 제안된 AI-IRW 깊이는 원래 IRW 깊이가 만족하지 못하는 바, 특히 애핀 불변성을 포함한 통계 깊이의 네 가지 핵심 공리를 만족하는가?
• RQ2 표본 버전의 AI-IRW는 표본 변동성 하에서 농도와 안정성 측면에서 어떻게 성능을 보이는가?
• RQ3 데이터에 이상치가 포함되었을 때 AI-IRW는 순위 일치성과 강건성을 어느 정도 유지하는가?
• RQ4 강건한 공분산 추정기(MCD 대비 SC)의 사용이 AI-IRW의 안정성과 성능에 어떤 영향을 미치는가?
• RQ5 실증적으로 AI-IRW는 이상치 탐지 및 순위 정렬 작업에서 기존 깊이 함수와 비교해 어떻게 성능을 내는가?

주요 결과

• AI-IRW 깊이는 정밀도 행렬 $\Sigma^{-1/2}$를 통한 데이터 변환을 통해 통계 깊이의 네 가지 공리, 특히 애핀 불변성을 모두 만족한다.
• AI-IRW의 표본 버전에 대해 비점근적 농도 부등식이 확립되어 유한표본 성능의 신뢰성을 보장한다.
• 오염 상황에서 MCD 추정기를 사용한 AI-IRW는 높은 순위 일치성(Kendall $\tau$)을 유지하지만, IRW와 SC 기반 AI-IRW는 1% 이상의 이상치 이후 급격히 성능이 떨어진다.
• 다양한 표본 실현과 노이즈가 있는 방향 설정에서 AI-IRW는 반평면 깊이 및 반평면 질량 깊이와 비교해 유사하거나 더 낮은 분산을 보인다.
• AI-IRW는 무거운 꼬리와 오염된 분포 하에서도 이상치 탐지에서 뛰어난 실증 성능을 보이며, 순위 정렬의 일치성도 높게 유지된다.
• MCD 추정기를 사용하면 AI-IRW의 강건성이 향상되지만, 기초적인 IRW의 강건성 한계로 인해 더 이상 향상되지 않으며, 이는 '최악의 경우' 강건성 트레이드오프를 시사한다.