[論文レビュー] Bootstrapping High Dimensional Time Series

Xianyang Zhang, Guang Cheng|arXiv (Cornell University)|Jun 4, 2014

Statistical Methods and Inference参考文献 39被引用数 27

ひとこと要約

本稿は、弱い自己相関下での高次元ステーションナリィ時系列に対して、次元が標本サイズとともに指数関数的に増加しても有効な推論を可能にする、ブロックワイズ・マルチプライヤー（ワイルド）ブートストラップを提案する。主な貢献は、次元が標本サイズの指数関数的増加に対しても成り立つ有限標本におけるガウス近似であり、誤差が多項式的に減少する。この近似により、一様信頼区間、2次モーメントの性質の検定（例：ホワイトノイズ、バンド行列型共分散）、スペクトル的性質の推論が可能となり、自己共分散構造の知識や正規性仮定を必要としない。

ABSTRACT

This article studies bootstrap inference for high dimensional weakly dependent time series in a general framework of approximately linear statistics. The following high dimensional applications are covered: (1) uniform confidence band for mean vector; (2) specification testing on the second order property of time series such as white noise testing and bandedness testing of covariance matrix; (3) specification testing on the spectral property of time series. In theory, we first derive a Gaussian approximation result for the maximum of a sum of weakly dependent vectors, where the dimension of the vectors is allowed to be exponentially larger than the sample size. In particular, we illustrate an interesting interplay between dependence and dimensionality, and also discuss one type of "dimension free" dependence structure. We further propose a blockwise multiplier (wild) bootstrap that works for time series with unknown autocovariance structure. These distributional approximation errors, which are finite sample valid, decrease polynomially in sample size. A non-overlapping block bootstrap is also studied as a more flexible alternative. The above results are established under the general physical/functional dependence framework proposed in Wu (2005). Our work can be viewed as a substantive extension of Chernozhukov et al. (2013) to time series based on a variant of Stein's method developed therein.

研究の動機と目的

• 高次元時系列における弱い自己相関下で、有効なブートストラップ推論手法が不足している問題に対処すること。
• ガウス分布や独立同分布の仮定をしない高次元平均ベクトルのための一様信頼区間の構築を可能にすること。
• 高次元時系列における未知の自己共分散構造を事前に知らなくても動作するブートストラップ手順の開発。
• バンド行列型やホワイトノイズの検定を含む、2次モーメントおよびスペクトル的性質の仕様検定を可能にすること。
• 標本サイズに対して次元が指数関数的に増加する状況下でも成り立つ、弱い自己相関を持つベクトルの最大値に対する有限標本ガウス近似理論の確立。

提案手法

• スティンの方法とスレピアン補間を用いて、弱い自己相関を持つ確率的ベクトルの和の最大値に対するガウス近似を導出する。
• 未知の自己共分散行列の直接推定を回避するため、i.i.d. マルチプライヤー変数を用いたブロックワイズ・マルチプライヤー（ワイルド）ブートストラップを提案する。
• ブロックワイズ・マルチプライヤー・ブートストラップの柔軟な代替手法として、重複のないブロックブートストラップを採用する。
• ブル（2005）が提唱した物理的／機能的依存フレームワークを用いて、高次元時系列における弱い依存をモデル化する。
• 経験的最大値とそのガウス類似物との間のコルモゴロフ距離に対する境界を導出し、誤差が標本サイズに関して多項式的に減少することを示す。
• インフルエンス関数に基づく推定方程式とブロック平均統計量を用いて、スペクトル的および2次モーメント的性質の検定統計量を構築する。

実験結果

リサーチクエスチョン

• RQ1 次元が標本サイズとともに指数関数的に増加する高次元時系列に対し、有効なブートストラップ法を開発できるか？
• RQ2 弱い自己相関が、高次元時系列の最大値に対するガウス近似の精度に与える影響は何か？
• RQ3 高次元時系列において未知の自己共分散構造を事前に知らなくても動作するブートストラップ手順を構築できるか？
• RQ4 nullの極限分布が存在することを前提としないで、スペクトル的および2次モーメント的性質（例：バンド行列型、ホワイトノイズ）に対する有効な推論が可能か？
• RQ5 高次元時系列設定下で、ブートストラップ近似誤差の収束速度はどの程度か？

主な発見

• 提案されたブロックワイズ・マルチプライヤー・ブートストラップは、次元が標本サイズとともに指数関数的に増加しても、有限標本における近似誤差が多項式的に減少する。
• 弱い自己相関を持つベクトルの最大値に対するガウス近似は、依存の強さと次元性の相互作用に依存する誤差境界を有する。
• 次元が独立であるかのように振る舞う「次元に依存しない」依存構造が新たに同定され、近似精度が保たれる。
• ブートストラップ手順により、ガウス分布や独立同分布の仮定なしに、高次元平均ベクトルのための一様信頼区間の推論が可能となる。
• スペクトル的および2次モーメント的性質の検定（例：バンド行列型、ホワイトノイズ）は、nullの極限分布が存在することを前提とせず、i.i.d. ライターチャーに比べて顕著な改善をもたらす。
• 物理的／機能的依存フレームワークの下で理論的保証が確立され、ブートストラップのカバレッジ誤差の収束速度が $ n^{-c} $ のオーダー（$ c > 0 $）で達成される。