[論文レビュー] Bootstrap Based Inference for Sparse High-Dimensional Time Series Models

Jonas Krampe, J.‐P. KREISS+1 more|arXiv (Cornell University)|Jun 28, 2018

Statistical Methods and Inference参考文献 46被引用数 13

ひとこと要約

本稿は、正則化lasso推定量の非標準的漸近分布を克服するため、デバイアス補正推定量を用いた、モデルに基づくブートストラップ手順を、スパースな高次元ベクトル自己回帰（VAR）モデルにおける推論に提案する。この手法は、弱い自己相関とスパarsityの仮定の下で、推定および仮説検定の両方について漸近的有効性を確立する。特に、係数群が同時にゼロであるかどうかの検定に有効である。

ABSTRACT

Fitting sparse models to high-dimensional time series is an important area of statistical inference. In this paper we consider sparse vector autoregressive models and develop appropriate bootstrap methods to infer properties of such processes. Our bootstrap methodology generates pseudo time series using a model-based bootstrap procedure which involves an estimated, sparsified version of the underlying vector autoregressive model. Inference is performed using so-called de-sparsified or de-biased estimators of the autoregressive model parameters. We derive the asymptotic distribution of such estimators in the time series context and establish asymptotic validity of the bootstrap procedure proposed for estimation and, appropriately modified, for testing purposes. In particular we focus on testing that large groups of autoregressive coefficients equal zero. Our theoretical results are complemented by simulations which investigate the finite sample performance of the bootstrap methodology proposed. A real-life data application is also presented.

研究の動機と目的

• パラメータ数が標本サイズを上回る高次元的・スパースな時系列モデルにおいて、信頼性のある推論手法の不足に対処する。
• lasso型推定量の非標準的漸近分布が、従来の推論法およびブートストラップ法を困難にするのを克服する。
• デバイアス補正VARパラメータ推定量の推論に対して、漸近的に有効なブートストラップ手順を開発する。
• グランジャ因果関係や変数選択に関連する、大きな自己回帰係数群が同時にゼロであるかどうかの検定を可能にする。
• 弱い自己相関と次元数の増加、スパarsity制約の下で、ブートストラップの理論的有効性を確立する。

提案手法

• スパース化された推定VARモデルから擬似時系列を生成するモデルベースのブートストラップを用いる。
• lasso型正則化VAR推定量に内在するバイアスを補正するため、デバイアス補正またはデスパース化推定量を適用する。
• 高次元的・スパースVAR仮定の下で、デバイアス補正推定量の漸近的分布を導出する。
• デバイアス補正推定量およびその推定標準誤差に基づいてブートストラップ統計量を構築する。
• ガウス近似技術を用いて、ブートストラップがデバイアス補正検定統計量の漸近的分布を再現することを保証する。
• 関数中心極限定理およびガウス近似結果（例：ZhangとWu, 2017）を活用し、弱い自己相関とスパarsityの下でブートストラップの有効性を裏付ける。

実験結果

リサーチクエスチョン

• RQ1 高次元的・スパースVARモデルにおける推論に対して、漸近的に有効なブートストラップ手順を開発できるか？
• RQ2 デバイアス補正推定量を用いて、高次元的時系列における有効な信頼区間およびp値を構築する方法は何か？
• RQ3 大規模な自己回帰係数群の同時有意性の検定に対して、ブートストラップ手順は漸近的に有効か？
• RQ4 この設定におけるブートストラップの有効性を保証するための、自己相関、スパarsity、次元数に関する十分条件は何か？
• RQ5 非標準的推定量を伴う高次元的設定において、提案手法のブートストラップは、標準的なモデルベースブートストラップ手法と比べてどのように異なるか？

主な発見

• 提案されたブートストラップ手順は、弱い自己相関とスパarsityの下で、デバイアス補正VARパラメータ推定量の推論に対して漸近的に有効である。
• デバイアス補正推定量の漸近的分布が導出され、高次元的漸近的条件下で概ね正規分布に近づくことが示された。
• ブートストラップは、パrameter空間全体に一様に、デバイアス補正検定統計量の漸近的分布を再現する。
• パラメータ数が標本サイズを上回る場合でも、自己回帰係数群がゼロである帰無仮説の検定が有効に可能である。
• シミュレーションにより、ブートストラップの有限標本性能が信頼できることが確認され、信頼区間および仮説検定の適切なカバレッジとサイズが得られた。
• 理論的裏付けは、高次元的線形形式のガウス近似と弱い自己相関の仮定に依拠し、収束速度はスパarsityおよび次元数に依存する。