[論文レビュー] Affine-Invariant Integrated Rank-Weighted Depth: Definition, Properties and Finite Sample Analysis

Guillaume Staerman, Pavlo Mozharovskyi+1 more|arXiv (Cornell University)|Jun 21, 2021

Advanced Statistical Methods and Models被引用数 4

ひとこと要約

本稿では、精度行列を組み込むことでアフィン不変性を確保する新しい多変量順位関数であるアフィン不変型統合ランク加重順位（AI-IRW）を提案する。この手法により、統計的順位の4つの主要な公理を満たすとともに、頑健性と計算効率性を実現し、理論的集中限界と、外れ値検出および汚染下での順位一貫性における優れた実験的性能を示す。

ABSTRACT

Because it determines a center-outward ordering of observations in $\\mathbb{R}^d$ with $d\\geq 2$, the concept of statistical depth permits to define quantiles and ranks for multivariate data and use them for various statistical tasks (e.g. inference, hypothesis testing). Whereas many depth functions have been proposed \ extit{ad-hoc} in the literature since the seminal contribution of \\cite{Tukey75}, not all of them possess the properties desirable to emulate the notion of quantile function for univariate probability distributions. In this paper, we propose an extension of the \ extit{integrated rank-weighted} statistical depth (IRW depth in abbreviated form) originally introduced in \\cite{IRW}, modified in order to satisfy the property of \ extit{affine-invariance}, fulfilling thus all the four key axioms listed in the nomenclature elaborated by \\cite{ZuoS00a}. The variant we propose, referred to as the Affine-Invariant IRW depth (AI-IRW in short), involves the covariance/precision matrices of the (supposedly square integrable) $d$-dimensional random vector $X$ under study, in order to take into account the directions along which $X$ is most variable to assign a depth value to any point $x\\in \\mathbb{R}^d$. The accuracy of the sampling version of the AI-IRW depth is investigated from a nonasymptotic perspective. Namely, a concentration result for the statistical counterpart of the AI-IRW depth is proved. Beyond the theoretical analysis carried out, applications to anomaly detection are considered and numerical results are displayed, providing strong empirical evidence of the relevance of the depth function we propose here.

研究の動機と目的

• 元のIRW順位にアフィン不変性が欠如していること、すなわち座標系の選択に敏感である点を是正すること。
• Zuo & Serfling (2000) が定義する統計的順位の4つの公理、特にアフィン不変性を満たす順位関数の開発。
• 特に高次元設定下でも、外れ値や標本変動に対して頑健で安定した順位関数を保証すること。
• AI-IRW順位の標本バージョンに対する非漸近的有限標本解析を提供し、集中限界を含むこと。
• 本手法の実用的有用性を、さまざまな分布的および汚染状況下での外れ値検出および順位順序付けタスクにおいて実証すること。

提案手法

• AI-IRW順位は、$X$ の共分散行列 $\Sigma$ を用いて $\Sigma^{-1/2}X$ を変換した後のIRW順位として定義され、精度行列による標準化によりアフィン不変性が保証される。
• 効率的な標本推定を可能とするために、単位球面上で一様に抽出された方向に対するモンテカルロ近似を用いる。
• 非漸近的集中不等式を用いてAI-IRWの統計的対応を分析し、有限標本における信頼性を確立する。
• 外れ値に対して安定性を高めるために、MCD（最小共分散行列）およびSC（標本共分散）による頑健な共分散推定を統合する。
• 汚染されたデータセットとクリアなデータセット間の順位一貫性を測るため、ケンダールの $\tau$ 距離を用いて順位を評価する。
• ガウス分布および重たい尾を持つ分布（スチューデント-3）に対して、AI-IRWを外れ値検出に適用し、IRW、ハーフスペース順位、ハーフスペースマス順位と比較する。

実験結果

リサーチクエスチョン

• RQ1 提案されたAI-IRW順位は、元のIRW順位が満たさないアフィン不変性を含め、統計的順位の4つの主要な公理を満たしているか？
• RQ2 AI-IRWの有限標本バージョンは、標本変動の下で集中性および安定性に優れているか？
• RQ3 外れ値が混入した状況下でも、AI-IRWはどの程度の順位一貫性と頑健性を維持できるか？
• RQ4 MCDとSCの両方の頑健な共分散推定器を用いることで、AI-IRWの安定性と性能にどのような影響が生じるか？
• RQ5 外れ値検出および順位順序付けタスクにおいて、AI-IRWは既存の順位関数と比較してどのように性能を発揮するか？

主な発見

• AI-IRW順位は、精度行列 $\Sigma^{-1/2}$ を用いたデータ変換により、統計的順位の4つの公理、特にアフィン不変性を満たす。
• AI-IRWの標本バージョンに対して非漸近的集中不等式が確立され、有限標本における信頼性が保証される。
• 汚染下では、MCD推定器を用いたAI-IRWは高い順位一貫性（ケンダール $\tau$）を維持するが、IRWおよびSCベースのAI-IRWは1%を超える外れ値で急激に性能を低下させる。
• 複数の標本実現およびノイズのある方向設定において、AI-IRW順位はハーフスペース順位およびハーフスペースマス順位と同等または低い分散を示す。
• AI-IRWは、重たい尾を持つ分布および汚染された分布下でも、外れ値検出において優れた実験的性能を示し、順位順序の整合性が高く保たれる。
• MCD推定器の使用によりAI-IRWの頑健性が向上するが、元々のIRWの頑健性の限界によりさらなる向上は困難であり、これは「最悪ケース」の頑健性トレードオフを示している。