[論文レビュー] Estimation of the Number of Spiked Eigenvalues in a Covariance Matrix by Bulk Eigenvalue Matching Analysis

Zheng Tracy Ke, Yucong Ma+1 more|arXiv (Cornell University)|May 31, 2020

Random Matrices and Applications参考文献 35被引用数 9

ひとこと要約

本稿では、残留固有値をガンマ分布に従うものと仮定し、その経験的分布を理論的分位数関数と一致させることで、高次元共分散行列におけるスプライク固有値の数を推定する新規手法であるBulk Eigenvalue Matching Analysis (BEMA) を提案する。この手法は、バルク固有値の情報を活用することで推定精度を向上させ、標準的なスプライクモデル下で $ K $ の一貫性のある推定を達成し、シミュレーションおよび肺がんや1000 Genomesデータセットを含む実データ応用において、既存手法を上回る性能を示す。

ABSTRACT

The spiked covariance model has gained increasing popularity in high-dimensional data analysis. A fundamental problem is determination of the number of spiked eigenvalues, $K$. For estimation of $K$, most attention has focused on the use of $top$ eigenvalues of sample covariance matrix, and there is little investigation into proper ways of utilizing $bulk$ eigenvalues to estimate $K$. We propose a principled approach to incorporating bulk eigenvalues in the estimation of $K$. Our method imposes a working model on the residual covariance matrix, which is assumed to be a diagonal matrix whose entries are drawn from a gamma distribution. Under this model, the bulk eigenvalues are asymptotically close to the quantiles of a fixed parametric distribution. This motivates us to propose a two-step method: the first step uses bulk eigenvalues to estimate parameters of this distribution, and the second step leverages these parameters to assist the estimation of $K$. The resulting estimator $\hat{K}$ aggregates information in a large number of bulk eigenvalues. We show the consistency of $\hat{K}$ under a standard spiked covariance model. We also propose a confidence interval estimate for $K$. Our extensive simulation studies show that the proposed method is robust and outperforms the existing methods in a range of scenarios. We apply the proposed method to analysis of a lung cancer microarray data set and the 1000 Genomes data set.

研究の動機と目的

• 高次元共分散行列におけるスプライク固有値の数 $ K $ を推定するための、バルク固有値を体系的かつ効果的に活用する手法の不足を解消すること。
• トップ固有値や固有値ギャップに依存するのではなく、固有値のバルク全体からの情報を統合する原理的かつ整合性のあるアプローチの開発。
• 標準的なスプライク共分散モデルにおいて $ p/n \to \gamma > 0 $ の下で推定量 $ \hat{K} $ の一貫性を保証すること。
• 推定値の解釈可能性と実応用における信頼性を高めるために、$ K $ の信頼区間の構築。
• マイクロアレイおよび集団ゲノムデータセットを含む実世界データにおいて、本手法の頑健性と優れた性能を実証すること。

提案手法

• バルク固有値が漸近的にパラメトリック分布に従うと仮定し、残留共分散行列を独立同分布の対角成分をもつものとしてモデル化する。
• 2段階の手順を用いる：まず、経験的バルク固有値を用いて、分位数一致によりガンマ分布のパラメータ $ (\hat{\sigma}^2, \hat{\theta}) $ を推定する。
• 推定されたガンマ分布に基づき、バルク固有値の期待分位数をモデル化する理論的分位数関数 $ G(x) $ を構築する。
• 検定統計量 $ \hat{T}_\beta $ を、理論的固有値分布の $ (1-\beta) $-分位数として定義し、スプライク固有値が開始する閾値を検出する。
• データ駆動型の閾値として、$ \hat{T}_\beta $ を用い、標本固有値のうち $ \hat{T}_\beta $ を超えるものの数として $ \hat{K} $ を推定する。
• 正則性条件の下で、推定された閾値が真の分位数に収束することを示し、パrameter推定量の漸近正規性を用いて $ \hat{K} $ の一貫性を確立する。

実験結果

リサーチクエスチョン

• RQ1 高次元共分散行列におけるスプライク固有値の数 $ K $ を推定する際、バルク固有値を体系的に活用することで、推定精度を向上させることができるか？
• RQ2 残留固有値をガンマ分布に従うものと仮定することで、トップ固有値のみに依存する手法に比べ、$ K $ の推定がより頑健かつ一貫性を持つようになるか？
• RQ3 有限標本設定下で、平行分析、カイザー基準、固有値ギャップ検出法などの既存手法と比較して、本手法はどのように性能を発揮するか？
• RQ4 バルク固有値一致フレームワークを用いて、$ K $ の信頼区間を信頼性を持って構築できるか？
• RQ5 チューニングパラメータ（特に分位数レベル $ \beta $）の変化に対して、実世界のデータ応用において本手法は頑健であるか？

主な発見

• 提案されたBEMA推定量 $ \hat{K} $ は、$ p/n \to \gamma > 0 $ の下で標準的なスプライク共分散モデルにおいて一貫性を示し、$ |\hat{K} - K| \prec n^{-1} $ を満たす。
• シミュレーションでは、スプライク固有値が小さい場合を含め、幅広いシナリオにおいて、平行分析、カイザー基準、固有値ギャップに基づく推定量を上回る性能を示す。
• 肺がんマイクロアレイデータでは、BEMAは $ \hat{K} = 1 $ を推定し、90%信頼区間は[1,4]である。また、$ \alpha $ の値が0.1～0.4の範囲で安定している。
• 1000 Genomesデータセットでは、BEMAは $ \hat{K} = 28 $ を推定し、90%信頼区間は[28,30]である。$ \alpha \in \{0.1, 0.2, 0.3, 0.4\} $ の範囲で推定値が安定しており、頑健性が裏付けられる。
• パrameter推定量の推定値は非常に安定しており、$ \hat{\theta} $ と $ \hat{\sigma}^2 $ は異なる $ \alpha $ に対してわずかにしか変化せず、結果として得られる $ \hat{K} $ はテスト範囲内で不変である。
• ガンマ分位数を用いた信頼区間の構築により、不確実性の信頼性ある測定が可能となり、両方の実データ応用において80%信頼区間が真の $ K $ をカバーしている。