[論文レビュー] Asymptotically normal estimators in high-dimensional linear regression

Kou Fujimori, Koji Tsukuda|arXiv (Cornell University)|Feb 7, 2026

Statistical Methods and Inference被引用数 0

ひとこと要約

本論文は高次元線形回帰における推定量の漸近正規性を、ell^2 ヒルベルト空間における弱収束を用いて証明し、疎性が発散する場合も認め、線形仮説検定を有限の加重カイ二乗混合分布の帰無分布として提供する。

ABSTRACT

We establish asymptotic normality for estimators in high-dimensional linear regression by proving weak convergence in a separable Hilbert space, thereby enabling direct use of standard asymptotic tools, for example, the continuous mapping theorem. The approach allows the number of non-zero coefficients to grow, provided only a fixed number have moderate magnitude. As an application, we test linear hypotheses with a statistic whose null limit is a finite weighted sum of independent chi-squared variables, yielding plug-in critical values with asymptotically correct size.

研究の動機と目的

• 高次元での疎性発散を伴う漸近正規性の結果が必要であることの動機付け。
• ヒルベルト空間 ell^2 における弱収束を基盤とした枠組みを開発し、推定量の漸近的正規性を導出。
• 一定の信号の大きさの総量を制御しつつ、非零係数の数が増えることを許容する。
• 有限の加重カイ二乗帰無分布を持つ線形仮説検定の適用を提供。

提案手法

• 無限ノルムで一貫性を持つスパース推定量 hat{theta}_n を定義し、選択されたサポート hat{T}_n に基づくポスト選択 OLS 推定量 tilde{theta}_n を定義する。
• 疎性、信号強度、設計行列の性質を制御する前提条件 1-3 を確立し、Gram 行列 J_{nT_gamma,T_gamma} の収束やサブガウシアン境界を含む条件を設定する。
• リスケールされた推定誤差ベクトル R_n が ell^2 で中心化ガウス場に分布収束することを証明する。
• 主定理を適用して、無効分布が独立したカイ二乗変数の有限加重和となる線形仮説検定量 W_n を構築する。
• 分散成分の推定量と帰無分布に現れる固有値のプラグイン推定量の一貫性を示す。

実験結果

リサーチクエスチョン

• RQ1 疎性が標本サイズとともに増加する場合でも高次元推定量に対して漸近正規性を確立できるか。
• RQ2 ell^2 における弱収束をどのように活用して、高次元における幅広い推定量・汎関数の標準的な漸近手法を可能にするか。
• RQ3 疎性発散を伴う高次元回帰における線形仮説検定の null distribution は何か、有限の加重カイ二乗変数の和として表現できるか。

主な発見

• 本論文は R_n列が ell^2 における共分散構造をもつガウス場へ分布収束することを証明する。
• この枠組みの下では、座標ごとの正規性および固定次元の汎関数の正規性が直ちに従う。
• W_n を用いた線形仮説検定を構築し、帰無極限が独立したカイ二乗変数の有限加重和となる。
• スケール sigma^2 および非零固有値 Lambda_j のプラグイン推定量の一貫性を示す。
• Critical value のモンテカルロ推定により検定が漸近的レベル alpha を達成する。
• 非零係数の数が発散しても、 moderately large signals の部分集合 T_gamma が固定であり、他は総量で無視できる場合にはこのアプローチを適用できる。