[論文レビュー] Central Limit Theorems for Classical Likelihood Ratio Tests for High-Dimensional Normal Distributions

Tiefeng Jiang, Fan Yang|arXiv (Cornell University)|Jun 2, 2013

Random Matrices and Applications参考文献 36被引用数 5

ひとこと要約

本稿は、標本サイズ $ n $ と次元 $ p $ が両方とも $ p/n \to y \in (0,1] $ と成長する高次元多変量正規モデルにおける古典的尤度比検定（LRT）統計量の中心極限定理（CLT）を確立する。この漸近的枠組み下で、LRT統計量は明示的な平均と分散を伴う正規分布に収束し、高次元データ解析において従来のカイ二乗近似よりも顕著な改善をもたらす。

ABSTRACT

For random samples of size n obtained from p-variate normal distributions, we consider the classical likelihood ratio tests (LRT) for their means and covariance matrices in the high-dimensional setting. These test statistics have been extensively studied in multivariate analysis and their limiting distributions under the null hypothesis were proved to be chi-square distributions as n goes to infinity and p remains fixed. In this paper, we consider the high-dimensional case where both p and n go to infinity with p=n/y in (0, 1]. We prove that the likelihood ratio test statistics under this assumption will converge in distribution to normal distributions with explicit means and variances. We perform the simulation study to show that the likelihood ratio tests using our central limit theorems outperform those using the traditional chi-square approximations for analyzing high-dimensional data.

研究の動機と目的

• 固定された $ p $ の漸近的枠組みを超えて、高次元多変量正規分布に対する古典的尤度比検定（LRT）を拡張すること。
• $ p $ と $ n $ が大きくかつ同程度のとき、従来のカイ二乗近似がLRT統計量に対して著しく性能を発揮しない問題を解決すること。
• 高次元漸近的枠組み $ p/n \to y \in (0,1] $ の下で、さまざまな古典的LRTの明示的な中心極限定理（CLT）を導出すること。
• シミュレーション研究を通じて、新しいCLTに基づく推論の有効性を検証し、カイ二乗近似に比べてより優れたサイズとパワーを示すこと。
• $ p $ が $ n $ に比例する設定において、LRTを用いた現代の高次元統計的推論の理論的基盤を提供すること。

提案手法

• ランダム行列理論と多変量ガンマ関数の性質を用いて、高次元漸近的枠組み $ p/n \to y \in (0,1] $ におけるLRT統計量の極限分布を導出する。
• 複素解析の技法、特にガンマ関数比の評価を用いて、対数尤度比統計量のモーメント母関数を制御する。
• 明示的な漸近的平均および分散の式を導出し、標準化されたLRT統計量の分布収束が正規分布に至ることを確立する。
• Wishart分布と標本共分散行列の分布を用いて、帰無仮説下での尤度比をモデル化する。
• 多変量ガンマ関数の対数の級数展開を用いて、標本共分散行列の対数行列式を近似する。
• 従来のカイ二乗近似と比較して、第一種の誤り率と統計的パワーの両面で、CLT近似の有効性を広範なシミュレーションにより検証する。

実験結果

リサーチクエスチョン

• RQ1 $ p/n \to y \in (0,1] $ のとき、高次元正規データにおける球面性の古典的尤度比検定統計量の極限分布は何か？
• RQ2 $ p/n \to y \in (0,1] $ の高次元漸近的枠組み下で、平均ベクトルおよび共分散行列の等質性に関するLRTの極限分布はどのように振る舞うか？
• RQ3 多変量正規ベクトルの成分間の独立性を検定する古典的尤度比検定は、高次元において正規分布近似で正確に近似可能か？
• RQ4 高次元設定において、CLTに基づくLRTの性能はカイ二乗近似と比べてサイズおよびパワーの点でどのように差が現れるか？
• RQ5 さまざまな古典的LRTについて、高次元漸近的枠組み下での対数尤度比統計量の明示的な漸近的平均および分散は何か？

主な発見

• 高次元正規モデルにおける球面性、平均の等質性、共分散行列の等質性、および成分間の独立性に関する尤度比検定統計量は、 $ p/n \to y \in (0,1] $ のとき、正規分布に分布収束する。
• 極限正規分布の平均および分散は、漸近的比 $ y = \lim p/n $ に依存し、 $ y \to 1 $ のとき分散が発散する。
• $ y < 1 $ のとき、漸近的分散は $ \sigma^2 = -2[y + \log(1 - y)] $ であり、 $ y = 1 $ のとき無限大に発散する。
• シミュレーション研究により、CLTに基づく近似が、高次元データにおける第一種の誤り率の制御および統計的パワーの両面で、従来のカイ二乗近似を著しく上回ることが示された。
• $ p/n \to 1 $ の臨界ケースでさえも、CLT近似は有効であり、ランク不足のためカイ二乗近似が崩壊する状況でも成立する。
• 複素解析および多変数ガンマ関数の漸近展開、特に高次元におけるガンマ関数比の評価を用いた厳密な証明により、理論的結果が裏付けられている。