[論文レビュー] Asymptotics of eigenstructure of sample correlation matrices for high-dimensional spiked models

David Morales‐Jiménez, Iain M. Johnstone+2 more|arXiv (Cornell University)|Oct 24, 2018

Random Matrices and Applications参考文献 36被引用数 10

ひとこと要約

本稿は、一部の母集団固有値が他のものよりも顕著に大きい高次元スプライドモデルにおける、標本相関行列の固有値および固有ベクトルの1次漸近的挙動と漸近的分布を初めて導出する。ランダム行列理論を用いて、1次固有値挙動は標本共分散行列と一致するが、相関に基づく推定では固有値および固有ベクトルの漸近的フラクチュエーションが著しく小さくなることが示され、高次元設定における重要な分布的差異が明らかになる。

ABSTRACT

Sample correlation matrices are employed ubiquitously in statistics. However, quite surprisingly, little is known about their asymptotic spectral properties for high-dimensional data, particularly beyond the case of "null models" for which the data is assumed independent. Here, considering the popular class of spiked models, we apply random matrix theory to derive asymptotic first-order and distributional results for both the leading eigenvalues and eigenvectors of sample correlation matrices. These results are obtained under high-dimensional settings for which the number of samples n and variables p approach infinity, with p/n tending to a constant. To first order, the spectral properties of sample correlation matrices are seen to coincide with those of sample covariance matrices; however their asymptotic distributions can differ significantly, with fluctuations of both the sample eigenvalues and eigenvectors often being remarkably smaller than those of their sample covariance counterparts.

研究の動機と目的

• 帰無仮説モデルを超えた高次元的漸近的スペクトル的性質を理解すること。
• 高次元スプライドモデルにおける固有値および固有ベクトルの理論的理解の欠如に対処すること。
• 標本相関行列の主固有値および固有ベクトルの1次漸近的結果および極限分布を確立すること。
• 同じ高次元的状態下で、標本相関行列と標本共分散行列の漸近的フラクチュエーションを比較すること。
• 相関行列を用いた高次元において主成分分析（PCA）および関連手法における統計的推論の厳密な基盤を提供すること。

提案手法

• 比 $ p/n \to \gamma \in (0, \infty) $ となる高次元スプライドモデルにランダム行列理論を適用する。
• 相関行列のスペクトル解析を用いて、標本固有値および固有ベクトルの漸近的1次挙動を導出する。
• スケーリングされた固有値過程の解析とその収束を用いて、固有値および固有ベクトルの極限分布を確立する。
• 確率的過程のタイトネスを示すために、条件付き確率およびモーメント基準を用いる。
• 固有値摂動バウンドおよびシュール補行列分解を用いて、相関行列の固有値と変換されたカーネル行列の固有値を結びつける。
• 先行研究（例：BaiとSilverstein、Gaoら）の結果を、条件付き推論と集中不等式を用いて相関設定に適応する。

実験結果

リサーチクエスチョン

• RQ1 高次元スプライドモデルにおいて、標本相関行列の固有値および固有ベクトルの漸近的分布は、標本共分散行列のそれらとどのように異なるか？
• RQ2 比 $ p/n \to \gamma > 0 $ のもとで、標本相関行列の主固有値および固有ベクトルの1次漸近的挙動は何か？
• RQ3 標本相関行列における固有値および固有ベクトルのフラクチュエーションは、共分散行列と比較してどの程度低減するか？
• RQ4 スプライドモデルの仮定の下で、標本相関行列の最大固有値の極限分布を特徴づけられるか？
• RQ5 母集団固有ベクトルの構造は、相関行列設定における標本固有ベクトルの漸近的挙動にどのように影響するか？

主な発見

• 同じスプライドモデル下で、標本相関行列の固有値および固有ベクトルの1次漸近的挙動は、標本共分散行列と一致する。
• 標本相関行列における固有値および固有ベクトルの漸近的フラクチュエーションは、共分散行列と比較して著しく小さく、分散低減効果が示唆される。
• 最大固有値の極限分布は、共分散の場合とは異なり、トレーシー＝ウィダム分布ではない。これはフラクチュエーションの低減に起因する。
• 標本固有ベクトルと母集団固有ベクトルの射影は分布収束するが、相関に基づく推定では漸近的分散が小さくなる。
• 標本相関行列の線形スペクトル統計の漸近的分布は、中心極限定理により特徴づけられるが、共分散の場合とは異なる極限分散を示す。
• 固有値摂動バウンドおよびシュール補行列分解は、高次元的状態下で標本固有値推定の整合性を確立するための重要なツールである。