[論文レビュー] Notes on the dimension dependence in high-dimensional central limit theorems for hyperrectangles

Yuta Koike|arXiv (Cornell University)|Nov 1, 2019

Stochastic processes and statistical mechanics参考文献 44被引用数 22

ひとこと要約

この論文は、近似誤差の次元依存性を軽減することで、超長方形における高次元中心極限定理を改善する。モーメント条件の下で、n → ∞ のとき、i.i.d. 確率的ベクトルの正規化された和が超長方形に属する確率は、そのガウス型近似によって一様に近似可能であり、誤差は (log d)^5 / n → 0 のとき減少する。共通要因構造が存在する場合には、条件は (log d)^3 / n → 0 に改善される。

ABSTRACT

Let $X_1,\dots,X_n$ be independent centered random vectors in $\mathbb{R}^d$. This paper shows that, even when $d$ may grow with $n$, the probability $P(n^{-1/2}\sum_{i=1}^nX_i\in A)$ can be approximated by its Gaussian analog uniformly in hyperrectangles $A$ in $\mathbb{R}^d$ as $n o\infty$ under appropriate moment assumptions, as long as $(\log d)^5/n o0$. This improves a result of Chernozhukov, Chetverikov & Kato [Ann. Probab. 45 (2017) 2309-2353] in terms of the dimension growth condition. When $n^{-1/2}\sum_{i=1}^nX_i$ has a common factor across the components, this condition can be further improved to $(\log d)^3/n o0$. The corresponding bootstrap approximation results are also developed. These results serve as a theoretical foundation of simultaneous inference for high-dimensional models.

研究の動機と目的

• 超長方形上での高次元和のガウス型一様近似に要する次元成長条件を改善すること。
• Chernozhukovら (2017) における (log d)^7 d 依存性が削減可能かどうかという未解決問題に取り組むこと。
• 高次元モデルにおける同時推定のための tighter 界を確立すること。
• 主なCLT境界を補完するブートストラップ近似結果を開発すること。

提案手法

• 次元 d に依存する近似誤差の制御のため、ランダム化された Lindeberg 法と Stein 核技術を用いる。
• 濃縮関数 CF(ε) 及びその双対測度 ΘX を導入し、ガウス型極限の反濃縮を定量化する。
• 反濃縮不等式および4次モーメントと成分の ψ1-ノルムに関するモーメント界を適用する。
• すべての超長方形 A に対して P(SX_n ∈ A) と P(ZX_n ∈ A) の差の本質的上限に関する界を導出する。
• 主なCLT結果と対称化および条件付き確率の議論を組み合わせることで、ブートストラップ近似定理を構築する。
• 経験的平均への依存性を分離し、濃縮不等式による誤差制御を可能にするために、和の対称化版 (X⋄) を用いる。

実験結果

リサーチクエスチョン

• RQ1 Chernozhukov ら (2017) における (log d)^7 / n → 0 の次元成長条件は、超長方形近似において改善可能か？
• RQ2 正規化された和に共通要因構造が存在する場合、次元依存性がより厳しくなるか？
• RQ3 一般状況下では (log d)^5 / n 条件が最適か、それ以上に削減可能か？
• RQ4 改善された次元条件のもとで、成分の最大値に関するブートストラップ近似は一貫して適用可能か？
• RQ5 反濃縮（ΘX で測定）は、超長方形のような非凸集合に対する高次元CLT の実現に果たす役割は何か？

主な発見

• 論文は、(log d)^5 / n → 0 条件の下で、n → ∞ のとき ρn(Are) → 0 であることを確立した。これは、Chernozhukov ら (2017) の (log d)^7 / n → 0 条件を改善したものである。
• 正規化された和 SX_n に成分間で共通要因が存在する場合には、条件が (log d)^3 / n → 0 に改善される。
• 界は ρn(Are) ≲ Θ_X^{2/3} (B_n^4 log^3 d / n)^{1/6} の形を取り、Θ_X は反濃縮を測る指標、B_n はモーメント成長を制御する。
• 同じ (log d)^5 / n → 0 条件のもとで、ブートストラップ近似誤差が一様に有界であることが示され、高次元モデルにおける有効な推定が可能になる。
• 精密化されたランダム化 Lindeberg 法の応用と、Stein 核および ψ1-ノルムを用いた反濃縮のより鋭い制御により、この改善が達成された。
• 結果は、家族ワイズ誤り率を厳密に制御する信頼区間や多重仮説検定などの同時推定の理論的基盤を提供する。