[論文レビュー] Eigenvalue distribution of large sample covariance matrices of linear processes

Oliver Pfaffel, Eckhard Schlemm|arXiv (Cornell University)|Jan 18, 2012

Random Matrices and Applications参考文献 12被引用数 15

ひとこと要約

本稿は、ARMA や分数的統合過程などの線形過程として記述される時系列的依存性を示すデータに対して、大規模な標本共分散行列の極限スペクトル分布（LSD）を導出する。ランダム行列理論を用いて、LSD がプロセスのスペクトル密度と比 $ y = \lim n/p $ に依存することを示し、従来の Marchenko-Pastur の法則を従属データに一般化する。

ABSTRACT

We derive the distribution of the eigenvalues of a large sample covariance matrix when the data is dependent in time. More precisely, the dependence for each variable $i=1,...,p$ is modelled as a linear process $(X_{i,t})_{t=1,...,n}=(\sum_{j=0}^\infty c_j Z_{i,t-j})_{t=1,...,n}$, where $\{Z_{i,t}\}$ are assumed to be independent random variables with finite fourth moments. If the sample size $n$ and the number of variables $p=p_n$ both converge to infinity such that $y=\lim_{n o\infty}{n/p_n}>0$, then the empirical spectral distribution of $p^{-1}\X\X^T$ converges to a non\hyp{}random distribution which only depends on $y$ and the spectral density of $(X_{1,t})_{t\in\Z}$. In particular, our results apply to (fractionally integrated) ARMA processes, which we illustrate by some examples.

研究の動機と目的

• 時系列的依存性を示す高次元標本共分散行列に対して、古典的 Marchenko-Pastur の法則を拡張すること。
• 各行が弱い自己相関を持つインnovations を持つ線形過程に従う $ \mathbf{X} $ に対して、$ p^{-1} \mathbf{X} \mathbf{X}^T $ の極限スペクトル分布（LSD）を特徴づけること。
• LSD が、元の線形過程のスペクトル密度と比 $ y = \lim n/p $ のみに依存することを確立すること。
• ARMA(1,1) や分数的統合過程などの場合に、LSD のStieltjes変換の明示的公式を提供すること。

提案手法

• 各変数を線形過程 $ X_{i,t} = \sum_{j=0}^\infty c_j Z_{i,t-j} $ としてモデル化し、$ \{Z_{i,t}\} $ を有限な四次モーメントとLindeberg条件を満たす i.i.d. ランダム変数とする。
• 線形過程のスペクトル密度 $ f(\omega) $ を、標本共分散行列のLSDを決定する主要な入力として用いる。
• スペクトル密度 $ f(\omega) $ を含む非線形方程式を用いて、LSD のStieltjes変換 $ m_z $ を導出する。具体的には、$ \frac{1}{m_z} = -z + y \int_{\lambda_-}^{\lambda_+} \frac{\lambda g(\lambda)}{1 + \lambda m_z} d\lambda $ であり、$ g(\lambda) $ は $ f(\omega) $ から導かれる固有値の密度関数である。
• Stieltjes–Perron の逆公式を用いて、LSD のStieltjes変換からLSDを回復する。
• ARMA(1,1) および分数的統合ARMA過程に対して、一般結果を特殊化し、$ f(\omega) $ および対応するLSDの明示的表現を導出する。
• シミュレーションを用いて数値的に結果を検証し、ARMA(1,1) プロセスの経験的固有値ヒストグラムと理論的LSDを比較する。

実験結果

リサーチクエスチョン

• RQ1 高次元データにおける時系列的依存性は、標本共分散行列の固有値分布にどのように影響を与えるか？
• RQ2 ARMA や線形過程のような従属構造を持つデータに対して、Marchenko-Pastur の法則を一般化できるか？
• RQ3 インノベーションが弱い自己相関を持つ線形過程に従う場合、$ p^{-1} \mathbf{X} \mathbf{X}^T $ の極限スペクトル分布は何か？
• RQ4 元の時系列のスペクトル密度は、標本共分散行列のLSDにどのように影響を与えるか？

主な発見

• $ p^{-1} \mathbf{X} \mathbf{X}^T $ の経験的スペクトル分布は、ほとんど確実に $ y = \lim n/p $ と線形過程のスペクトル密度 $ f(\omega) $ のみに依存する非確率的極限に収束する。
• ARMA(1,1) プロセスでは、LSD が明示的に導出され、Stieltjes 変換はパrameter $ \vartheta $ と $ \varphi $ を含む四次方程式を満たし、対応する密度関数は $ (\lambda_-, \lambda_+) $ で有界かつ連続である。
• $ \varphi = 0 $ の場合、結果は MA(1) プロセスに還元され、$ \vartheta = 0 $ の場合、AR(1) プロセスに還元され、両者とも扱いやすいLSDをもたらす。
• 分数的統合ARMA過程で $ d < 0 $ の場合、LSD は同じ枠組みで特徴づけられ、スペクトル密度 $ f(\omega) = \left| \frac{b(e^{i\omega})}{a(e^{i\omega})} \right|^2 |1 - e^{-i\omega}|^{-2d} $ を用いる。
• 数値的比較により、ARMA(1,1) プロセスにおいて、$ y = n/p $ の異なる値に対して、経験的固有値ヒストグラムと理論的LSDの間で強い一致が得られた。
• 導出されたLSDは、古典的 Marchenko-Pastur の法則を従属データに一般化したものであり、高次元設定における時系列的依存性が引き起こすバイアスを是正する。