[論文レビュー] Joint limiting laws for high-dimensional independence tests

Danning Li, Lingzhou Xue|arXiv (Cornell University)|Dec 30, 2015

Statistical Methods and Inference参考文献 28被引用数 14

ひとこと要約

本稿は、極値統計と2次形式統計を組み合わせることで、高次元の独立性に関するモデルフリーな連合検定手順を提案し、帰無仮説の下でそれらの漸近的独立性を証明する。この手法は、スパースおよびデューストな代替仮説の両方に対して一貫した検出力を持つ一方で、正しい漸近的サイズを維持し、閉形式の極限分布と、超高次元設定下での明示的な収束速度が導出される。

ABSTRACT

Testing independence is of significant interest in many important areas of large-scale inference. Using extreme-value form statistics to test against sparse alternatives and using quadratic form statistics to test against dense alternatives are two important testing procedures for high-dimensional independence. However, quadratic form statistics suffer from low power against sparse alternatives, and extreme-value form statistics suffer from low power against dense alternatives with small disturbances and may have size distortions due to its slow convergence. For real-world applications, it is important to derive powerful testing procedures against more general alternatives. Based on intermediate limiting distributions, we derive (model-free) joint limiting laws of extreme-value form and quadratic form statistics, and surprisingly, we prove that they are asymptotically independent. Given such asymptotic independencies, we propose (model-free) testing procedures to boost the power against general alternatives and also retain the correct asymptotic size. Under the high-dimensional setting, we derive the closed-form limiting null distributions, and obtain their explicit rates of uniform convergence. We prove their consistent statistical powers against general alternatives. We demonstrate the performance of our proposed test statistics in simulation studies. Our work provides very helpful insights to high-dimensional independence tests, and fills an important gap.

研究の動機と目的

• スパースおよびデューストな代替仮説の両方に対して検出力に欠ける既存の高次元独立性検定の限界を解消すること。
• 極値統計と2次形式統計を統合することで、多様な代替仮説に対して検出力を向上させる包括的な検定フレームワークの構築。
• 帰無仮説の下で2つの検定統計の連合極限分布を確立し、それらの漸近的独立性を証明すること。
• 閉形式の極限零分布と、連合検定統計の明示的な一様収束速度を導出すること。
• 提示された検定が、超高次元設定下での一般代替仮説に対して正しい漸近的サイズを維持しながら、一貫した検出力を達成すること。

提案手法

• 極値形式（スパース代替仮説向け）と2次形式（デュースト代替仮説向け）を、モデルフリーなアプローチにより組み合わせた連合検定統計を提案する。
• 帰無仮説の下で両検定統計の中間的極限分布を導出し、それが2次元正規分布に収束することを示す。
• 帰無仮説の下で極値統計と2次形式統計の間の漸近的独立性を証明する。これは予想に反するが、極めて重要な結果である。
• 連合極限分布を用いて統合検定を構築し、統合統計量の漸近的分布から導かれるしきい値を用いる。
• モーメント条件とトレースベースの正規化を用いて、極限零分布の一様収束速度の明示的レートを確立する。
• 2段階の検定手順を採用する：まず、極値統計と2次形式統計を計算する。次に、導出された連合漸近分布を用いてそれらを統合し、サイズを制御するとともに検出力を向上させる。

実験結果

リサーチクエスチョン

• RQ1 極値統計と2次形式統計を組み合わせた連合検定は、高次元独立性検定において、スパースおよびデューストな代替仮説の両方に対して一貫した検出力を達成できるか？
• RQ2 高次元の帰無仮説の下で、極値統計と2次形式統計は漸近的に独立であるか？
• RQ3 連合検定統計の閉形式の極限零分布は何か？ また、それらの収束速度は何か？
• RQ4 提案手法は、個々の検定と比較して検出力を向上させつつ、正しい漸近的サイズを維持できるか？
• RQ5 提案された検定統計は、独立性からのスパースおよびデューストの逸脱を含む一般代替仮説の下で、どのように性能を発揮するか？

主な発見

• 極値統計と2次形式統計は、高次元の帰無仮説の下で漸近的に独立である。これは非自明な結果であり、有効な連合推論を可能にする。
• 連合検定は、$ \text{tr}(\boldsymbol{\nabla}^2) \to 0 $ となるスパース代替仮説（スパース）および $ \text{tr}(\boldsymbol{\nabla}^2) \to \tau^2 > 0 $ となるデュースト代替仮説（デュースト）の両方に対して一貫した検出力を達成する。
• 連合検定統計の極限零分布は、トレースベースの正規化から導かれる明示的な平均および共分散構造を持つ2次元正規分布である。
• 極限分布の一様収束速度は $ O\big( \frac{\text{tr}^4(\boldsymbol{\nabla}^2)}{n^5} + \frac{\text{tr}^2(\boldsymbol{\nabla}^4)}{n^5} + \frac{\text{tr}(\boldsymbol{\nabla}^8)}{n^3} \big) $ であり、$ \boldsymbol{\nabla} = \boldsymbol{\nabla} - \boldsymbol{I} $ である。
• しきい値 $ c_\beta $ が連合漸近分布の分位数から導かれるため、検定は正しい漸近的サイズを維持する。
• シミュレーションスタディにより、本手法が個々の検定と比較して優れた検出力を示すことが確認され、特に混合または中程度の信号強度の設定で顕著である。