[論文レビュー] The Random Matrix Regime of Maronna's M-estimator with elliptically distributed samples

Romain Couillet, Frédéric Pascal+1 more|arXiv (Cornell University)|Nov 27, 2013

Random Matrices and Applications被引用数 10

ひとこと要約

本稿では、母集団次元 $N$ と標本サイズ $n$ が同じ割合で大きくなる際、マルォナのM推定量が、スパース行列推定のための頑健な分散共分散行列の漸近的挙動が、$N$ と $n$ がともに大きく成長するとき、古典的ランダム行列モデルと漸近的に同一となることを確立している。楕円分布の仮定のもとで、この推定量はスペクトルノルムにおいてほとんど確実に古典的ランダム行列アンサンブルに収束し、その極限固有値分布が導出される。

ABSTRACT

This article demonstrates that the robust scatter matrix estimator $\\hat{C}_N\\in {\\mathbb C}^{N\ imes N}$ of a multivariate elliptical population $x_1,\\ldots,x_n\\in {\\mathbb C}^N$ originally proposed by Maronna in 1976, and defined as the solution (when existent) of an implicit equation, behaves similar to a well-known random matrix model in the limiting regime where the population $N$ and sample $n$ sizes grow at the same speed. We show precisely that $\\hat{C}_N\\in{\\mathbb C}^{N\ imes N}$ is defined for all $n$ large with probability one and that, under some light hypotheses, $\\Vert \\hat{C}_N-\\hat{S}_N\\Vert\ o 0$ almost surely in spectral norm, where $\\hat{S}_N$ follows a classical random matrix model. As a corollary, the limiting eigenvalue distribution of $\\hat{C}_N$ is derived. This analysis finds applications in the fields of statistical inference and signal processing.

研究の動機と目的

• 母集団次元 $N$ と標本サイズ $n$ が比例して大きくなる高次元的状況において、マルォナのM推定量による頑健な分散共分散行列推定の漸近的挙動を分析すること。
• 楕円分布の仮定のもとで、この推定量がほとんど確実に古典的ランダム行列モデルに収束することを確立すること。
• ランダム行列理論の道具を用いて、頑健な推定量の極限スペクトル分布を導出すること。
• 独立成分モデルに関する先行研究を、より一般的な楕円分布のケースにまで拡張し、信号処理や統計的推論における応用範囲を広げること。

提案手法

• 楕円対称性の下で、頑健な分散共分散推定量を暗黙の固定点方程式の解として定式化する。
• 大次元ランダム行列理論を用いて、$N,n \to \infty$ かつ $c_N = N/n$ が有界である極限における推定量のスペクトル的性質を分析する。
• ランク1の摂動とトレースモーメント不等式を用いて、経験的スペクトル分布における逸脱を制御する。
• ユニタリ不変ベクトルモデルと集中不等式を用いて、楕円分布の標本が非ガウス的かつ裾の重い構造を扱う。
• 関数 $\phi(x) = x u(x)$ の単調増加性に依存して、固定点解の安定性と一意性を保証する。
• スペクトルノルムにおいて $\|\hat{C}_N - \hat{S}_N\| \to 0$ がほとんど確実に成立することを確立する。ここで $\hat{S}_N$ は古典的ランダム行列モデルを表す。

実験結果

リサーチクエスチョン

• RQ1 母集団次元 $N$ と標本サイズ $n$ が同じ割合で大きくなるとき、マルォナのM推定量はどのように漸近的に振る舞うか？
• RQ2 どのような条件下で頑健な推定量 $\hat{C}_N$ がほとんど確実に古典的ランダム行列モデルに収束するか？
• RQ3 楕円分布の下で、頑健な分散共分散行列推定量の極限固有値分布は何か？
• RQ4 高次元的状況において、確率的道具を用いて推定量が古典的モデルに収束することを厳密に確立できるか？
• RQ5 楕円分布の構造は、i.i.d.モデルと比較してM推定量のスペクトル的性質にどのように影響を与えるか？

主な発見

• 与えられた漸近的設定のもとで、十分に大きな $n$ に対して推定量 $\hat{C}_N$ はほとんど確実に定義可能である。
• $\|\hat{C}_N - \hat{S}_N\| \to 0$ がスペクトルノルムにおいてほとんど確実に成立する。ここで $\hat{S}_N$ は古典的ランダム行列モデルに従う。
• $\hat{C}_N$ の極限固有値分布は、$\hat{S}_N$ と同一であり、そのマルチェンコ＝パストール型の極限法則を継承する。
• 収束は、楕円分布にたいしてはきわめて弱いモーメント条件（四次モーメントの有限性を含む）のもとで成立する。
• 解析により、頑健な推定量が古典的ランダム行列のスペクトル的挙動を継承することが確認され、高次元統計的推論への応用が正当化される。
• 先行研究のi.i.d.モデルに関する結果を、より一般的な楕円分布のケースにまで拡張し、信号処理や高次元統計における応用範囲を広げた。