[論文レビュー] Asymptotic Theory of Eigenvectors for Random Matrices With Diverging Spikes

Jianqing Fan, Yingying Fan+2 more|arXiv (Cornell University)|Feb 19, 2019

Random Matrices and Applications参考文献 60被引用数 7

ひとこと要約

本稿は、発散するスパイクと非定常な分散を有する大規模なランダム行列の固有ベクトルに関する漸近理論を構築し、一般化されたウィグナーノイズ下でスパiked固有値および固有ベクトルの漸近正規性を確立する。主な貢献は、固有ベクトル線形形式の厳密な2次項展開を提供することであり、これにより高次元ネットワークおよびテキスト解析への妥当な統計的推論が可能になる。

ABSTRACT

Characterizing the asymptotic distributions of eigenvectors for large random matrices poses important challenges yet can provide useful insights into a range of statistical applications. To this end, in this article we introduce a general framework of asymptotic theory of eigenvectors for large spiked random matrices with diverging spikes and heterogeneous variances, and establish the asymptotic properties of the spiked eigenvectors and eigenvalues for the scenario of the generalized Wigner matrix noise. Under some mild regularity conditions, we provide the asymptotic expansions for the spiked eigenvalues and show that they are asymptotically normal after some normalization. For the spiked eigenvectors, we establish asymptotic expansions for the general linear combination and further show that it is asymptotically normal after some normalization, where the weight vector can be arbitrary. We also provide a more general asymptotic theory for the spiked eigenvectors using the bilinear form. Simulation studies verify the validity of our new theoretical results. Our family of models encompasses many popularly used ones such as the stochastic block models with or without overlapping communities for network analysis and the topic models for text analysis, and our general theory can be exploited for statistical inference in these large-scale applications. Supplementary materials for this article are available online.

研究の動機と目的

• 発散するスパイクと非定常な分散を有する大規模なスパikedランダム行列の固有ベクトル（ATE）の一般的漸近理論を構築すること。
• 一般化されたウィグナー行列ノイズ下でのスパiked固有値および固有ベクトルの漸近分布を特定すること。
• 適切な正規化を施した後、スパiked固有ベクトルの線形結合の漸近正規性を確立すること。
• ステーショナリックブロックモデルやトピックモデルなどの高次元応用における統計的推論の理論的基盤を提供すること。
• 大次元極限において非i.i.d.ノイズおよび発散するスパイク強度を扱うことで、既存の確率的行列理論を拡張すること。

提案手法

• やや弱い正則性条件の下で、スペクトル摂動理論を用いてスパiked固有値の漸近展開を導出する。
• リゾルベントに基づく解析と行列逆行列技術を用いて、一般のスパiked固有ベクトルの線形結合の2次項展開を構築する。
• 固有ベクトルの漸近理論を線形形式を超えて一般化するための二重線形形式フレームワークを導入する。
• リゾルベント恒等式と行列逆行列補題を用いて、高次元固有ベクトル摂動を取り扱いやすい成分に分解する。
• 濃縮不等式とマルティンゲール手法を用いて、漸近展開における剰余項を制御する。
• 2次項展開における主要な確率的項を同定することで、固有ベクトル線形形式の主要項の漸近分布を導出する。

実験結果

リサーチクエスチョン

• RQ1 スパイク強度が行列次元とともに発散する場合、スパiked固有値はどのように漸近的に振る舞うか？
• RQ2 一般のノイズ構造下で、スパiked固有ベクトルの線形結合の極限分布は何か？
• RQ3 ノイズが異分散的かつ非i.i.d.である場合でも、固有ベクトル射影の漸近正規性を確立できるか？
• RQ4 固有ベクトル展開における2次項が、1次項と比較して漸近分布に与える影響は何か？
• RQ5 提案された理論は、ステーショナリックブロックモデルやトピックモデルなどの実世界の高次元モデルにどの程度適用可能か？

主な発見

• スパイク強度が行列サイズとともに発散しても、適切な正規化を施した後、スパiked固有値は漸近的に正規分布に従う。
• 適切に正規化されたスパiked固有ベクトルの一般線形結合は、重みベクトルとノイズ構造に依存する極限分散を持つ漸近正規分布に従う。
• ノイズ分散がスパイク強度に対して十分に小さい場合、固有ベクトル展開における2次項が1次項を上回る。
• 固有ベクトル射影の漸近分布は、リゾルベントおよび摂動項から導かれる3つの主要な確率的変数の同時分布によって決定される。
• シミュレーションスタディを通じて理論的枠組みの妥当性が検証され、有限標本における漸近近似の正確性が確認された。
• モデル族は、重複コミュニティを有するステーショナリックブロックモデルやトピックモデルを含み、これらの設定における統計的推論を可能にする。