[論文レビュー] Detecting Rare and Weak Spikes in Large Covariance Matrices

Zheng Tracy Ke|arXiv (Cornell University)|Sep 4, 2016

Random Matrices and Applications参考文献 42被引用数 7

ひとこと要約

本稿は、p ≥ n の高次元設定下で、大きな共分散行列におけるまれで弱いスパイクの検出を研究し、パrameter空間を『検出不可能性領域』（すべての検定が漸近的に無力となる領域）と『検出可能性領域』（検定が完全なパワーを達成する領域）に分けるフェーズ遷移フレームワークを導入する。本稿は、ランダム行列理論とガウス型プロキシモデルを用いて、固有値の振る舞いと代替仮説下でのL¹距離の鋭い境界を導出し、CuSumおよびトレースベースの検定が検出可能性領域で漸近的完全パワーを達成することを確立する。

ABSTRACT

Given $p$-dimensional Gaussian vectors $X_i \stackrel{iid}{\sim} N(0, Σ)$, $1 \leq i \leq n$, where $p \geq n$, we are interested in testing a null hypothesis where $Σ= I_p$ against an alternative hypothesis where all eigenvalues of $Σ$ are $1$, except for $r$ of them are larger than $1$ (i.e., spiked eigenvalues). We consider a Rare/Weak setting where the spikes are sparse (i.e., $1 \ll r \ll p$) and individually weak (i.e., each spiked eigenvalue is only slightly larger than $1$), and discover a phase transition: the two-dimensional phase space that calibrates the spike sparsity and strengths partitions into the Region of Impossibility and the Region of Possibility. In Region of Impossibility, all tests are (asymptotically) powerless in separating the alternative from the null. In Region of Possibility, there are tests that have (asymptotically) full power. We consider a CuSum test, a trace-based test, an eigenvalue-based Higher Criticism test, and a Tracy-Widom test (Johnstone 2001), and show that the first two tests have asymptotically full power in Region of Possibility. To use our results from a different angle, we derive new bounds for (a) empirical eigenvalues, and (b) cumulative sums of the empirical eigenvalues, both under the alternative hypothesis. Part (a) is related to those in Baik, Ben-Arous and Peche (2005), but both the settings and results are different. The study requires careful analysis of the $L^1$-distance of our testing problem and delicate Radom Matrix Theory. Our technical devises include (a) a Gaussian proxy model, (b) Le Cam's comparison of experiments, and (c) large deviation bounds on empirical eigenvalues.

研究の動機と目的

• p ≥ n の高次元共分散行列におけるスパースで弱い固有値スパイクの検出という課題に対処すること。
• スパイクが少数かつ個々に弱い『まれ・弱いスパイク』領域における検出の根本的限界を特定すること。
• 検出問題にフェーズ遷移を同定し、検出が漸近的に不可能な領域と可能となる領域に分けること。
• フェーズ遷移フレームワーク下で、CuSum、トレースベース、Higher Criticism、Tracy-Widomといった主要な検定統計量の性能を評価すること。
• 高度なランダム行列理論のツールを用いて、代替仮説下での標本固有値および固有値の累積和に関する新たな非漸近的境界を導出すること。

提案手法

• 元の検定問題の解析を簡素化するためのガウス型プロキシモデルを提案し、レ・カム理論の古典的ツールの適用を可能にする。
• レ・カムの実験比較を用いて、元の問題を漸近的に同等なガウス設定に還元する。
• 代替仮説下での標本共分散行列の挙動を制御するため、標本固有値における大偏差境界を適用する。
• 帰無仮説と対立仮説モデル間のL¹距離を、検出可能性の閾値を定量化するための主要な指標として用いる。
• スパイクモデル下での固有値の累積和およびそのMarchenko-Pastur法則からの逸脱に関する鋭い境界を導出する。
• Tracy-Widom分布および固有値普遍性を用いて、非ガウス型モデルに対しても結果のロバストネスを正当化する。

実験結果

リサーチクエスチョン

• RQ1 p ≥ n のとき、大規模共分散行列におけるまれで弱いスパイクの根本的検出限界は何か？
• RQ2 スパイクのスパarsityと強度が、高次元設定下での統計的検定のパワーにどのように同時に影響するか？
• RQ3 検出可能性領域において、どの検定統計量（CuSum、トレースベース、Higher Criticism、Tracy-Widom）が漸近的完全パワーを達成するか？
• RQ4 スパイクのスパarsityと信号強度の観点から、検出可能領域と検出不能領域との間のフェーズ遷移を正確に特徴づけられるか？
• RQ5 代替仮説下での標本固有値およびその累積和に関する鋭い境界は何か？

主な発見

• スパイクのスパarsity（r）とスパイク強度（λ）の2次元パrameter空間にフェーズ遷移が存在し、それを『検出不可能性領域』と『検出可能性領域』に分ける。
• 検出可能性領域では、CuSumおよびトレースベースの検定が漸近的完全パワーを達成するが、検出不可能性領域ではすべての検定が漸近的に無力である。
• 本稿は、代替仮説下での標本固有値およびその累積和に関する新たな非漸近的境界を導出し、[4, 40]の先行研究を異なる設定で拡張し、より強い有限標本制御を実現する。
• ガウス型プロキシモデルが元のモデルと漸近的に同等であることが示され、レ・カム理論の古典的ツールを用いた推論が可能になる。
• 大偏差技法を用いて帰無仮説と対立仮説モデル間のL¹距離を境界化し、これがフェーズ遷移分析の根拠となる。
• 固有値普遍性のおかげで、モデルの誤指定に対しても結果はロバストであることが示され、遺伝学やネットワーク検出などの応用分野におけるサブガウス型およびウィグナー型モデルへの適用可能性が保証される。