[論文レビュー] Spiked covariances and principal components analysis in high-dimensional random effects models

Zhou Fan, Iain M. Johnstone+1 more|arXiv (Cornell University)|Jun 25, 2018

Random Matrices and Applications参考文献 55被引用数 9

ひとこと要約

本稿は、スパiked共分散構造を有する高次元ランダム効果および混合効果モデルにおける主成分を分析し、異なる成分の影響が互いに干渉する『アリヤス現象』—すなわち、分散成分の推定値が他の成分の影響を受けてバイアスを受ける現象—を同定する。このアリヤスを漸近的に除去するスペクトル補正法を提案し、高次元漸近的条件下で真の主固有値および固有ベクトルの一貫した推定が得られることを示す。

ABSTRACT

We study principal components analyses in multivariate random and mixed effects linear models, assuming a spherical-plus-spikes structure for the covariance matrix of each random effect. We characterize the behavior of outlier sample eigenvalues and eigenvectors of MANOVA variance components estimators in such models under a high-dimensional asymptotic regime. Our results show that an aliasing phenomenon may occur in high dimensions, in which eigenvalues and eigenvectors of the MANOVA estimate for one variance component may be influenced by the other components. We propose an alternative procedure for estimating the true principal eigenvalues and eigenvectors that asymptotically corrects for this aliasing problem.

研究の動機と目的

• 高次元漸近的条件下における多変量ランダム効果および混合効果モデルにおける標本固有値および固有ベクトルの挙動を理解すること。
• MANOVAおよびREML推定量におけるアリヤス現象を同定・特徴づけること。ここでは、ある分散成分の固有値および固有ベクトルが、他の成分の影響を受けて汚染されることを意味する。
• 母集団共分散行列がスパiked構造を有する場合に、真の分散成分の主成分を一貫して推定できる漸近的補正推定量を構築すること。
• 標本サイズ $ n $ と次元 $ p $ が比例して増加する高次元的状況下で、補正推定量の理論的保証を確立すること。

提案手法

• 標本サイズ $ n $ と特徴数 $ p $ が比例して増加する高次元的漸近的条件下で、MANOVAおよびREML推定量のスペクトル的性質を分析する。
• ランダム効果の共分散構造を、一つ以上の大きな固有値（スパイク）と、残りが球状のバルクを形成する「球状＋スパイク」構造としてモデル化する。
• 確率的行列理論およびリゾルベント技術を用いて、分散成分推定量の固有値および固有ベクトルの漸近的展開を導出する。
• 誤差成分の固有ベクトルがランダム効果の推定主成分に与える影響を通じて、アリヤス効果を同定する。
• 固有値および固有ベクトルにおける他の成分からの汚染によるバイアスを漸近的に除去する補正手順を提案する。
• リゾルベント恒等式およびStieltjes変換を用いたモーメントマッチングにより、補正済み固有値および固有ベクトルの漸近的分布を導出する。

実験結果

リサーチクエスチョン

• RQ1 スパiked共分散構造を有する高次元ランダム効果モデルにおいて、MANOVAおよびREML推定量の外れ値的固有値および固有ベクトルは、どのように振る舞うか？
• RQ2 高次元において、ある分散成分の固有ベクトルは、他の成分のスペクトル構造によってどの程度バイアスを受けるか？
• RQ3 主成分推定におけるアリヤス効果を補正する、漸近的に一貫した推定量を構築できるか？
• RQ4 高次元的状況下における補正済み固有値および固有ベクトルの漸近的分布は何か？

主な発見

• 高次元において、ある分散成分の推定主成分が、他の成分のスペクトル構造の影響を受けてバイアスを受ける『アリヤス現象』が発生する。特に、これらの固有ベクトルが部分的に一致する場合に顕著である。
• 真の共分散行列が低ランクであっても、MANOVAまたはREML推定量の最大固有値は、常に上方にバイアスを受ける。
• 推定共分散行列の主固有ベクトルは真の固有ベクトルと一致しないが、むしろ誤差成分の支配的固有ベクトルに引きずられる。
• 提案された補正手順により、このアリヤスが漸近的に除去され、真の主固有値および固有ベクトルの一致した推定が得られる。
• 補正済み推定量は、高次元的極限下で固有値について漸近正規性を示し、固有ベクトルについても一貫した整合性を達成する。
• 補正はStieltjes変換およびリゾルベント恒等式から導かれるスペクトル補正に依存し、高確率的集中不等式を用いて誤差バウンドを確立している。