[論文レビュー] High Dimensional and Banded Vector Autoregressions

Shaojun Guo, Yazhen Wang+1 more|arXiv (Cornell University)|Feb 27, 2015

Statistical Methods and Inference参考文献 27被引用数 8

ひとこと要約

本稿は、スパースな依存構造を有する高次元時系列をモデル化するため、係数行列をバンド化することでパラメータ数を O(p²) から O(p) に削減するバンド化されたベクトル自己回帰（VAR）モデルを提案する。フロベニウスノルム下での収束速度は (p/n)^{1/2}、スペクトルノルム下では (log p/n)^{1/2} であり、バンド幅選択のための一貫性を持つベイジアン情報基準（BIC）を導入している。また、バンド切断された標本自己共分散行列が、log(n/log p)(log p/n)^{1/2} のレートで一貫性を持つ推定器であることが示された。

ABSTRACT

We consider a class of vector autoregressive models with banded coefficient matrices. The setting represents a type of sparse structure for high-dimensional time series, though the implied autocovariance matrices are not banded. The structure is also practically meaningful when the order of component time series is arranged appropriately. The convergence rates for the estimated banded autoregressive coefficient matrices are established. We also propose a Bayesian information criterion for determining the width of the bands in the coefficient matrices, which is proved to be consistent. By exploring some approximate banded structure for the auto-covariance functions of banded vector autoregressive processes, consistent estimators for the auto-covariance matrices are constructed.

研究の動機と目的

• 高次元ベクトル自己回帰モデルにおける過パラメータ化と同定性の問題に取り組む。
• 隣接する時系列成分同士のみが互いに影響を与える動的依存構造を、バンド化された係数行列を用いてモデル化する。
• 高次元設定下で自己回帰係数行列および自己共分散関数の両方について一貫性のある推定手順を開発する。
• 標本サイズ n と次元 p が共に増大する状況において、バンド幅を一貫して特定するためのマージナルベイジアン情報基準（BIC）を提案する。

提案手法

• 係数行列が対角線のまわりに狭いバンド状に非ゼロ成分を有するバンド化された自己回帰モデルを仮定し、パラメータ数を O(p²) から O(p) に削減する。
• フロベニウスノルムおよびスペクトルノルムの下で、最小二乗推定法を用いて自己回帰係数行列を推定し、それぞれ (p/n)^{1/2} および (log p/n)^{1/2} の収束速度を確立する。
• n, p → ∞ の下で、真のバンド幅 k₀ を一貫して選択できるように、マージナルベイジアン情報基準（BIC）を提案する。
• バンド切断された標本自己共分散行列を、漸近的バンド近似を活用して真の自己共分散関数の一致推定器として導入する。
• 推定誤差を高次元設定下で制御するため、集中不等式および固有値の上限（補題1, 5, 6を用いて）を技術的ツールとして用いる。
• さまざまな順序付け（真の順序、局所的順列、ランダム順序）の下でシミュレーションスタディを実施し、BICスコアと事後予測誤差を比較する。

実験結果

リサーチクエスチョン

• RQ1 バンド化された係数行列は、動的依存構造を保ちつつ、高次元VARモデルにおけるパrameter数を効果的に削減できるか？
• RQ2 n と p が増大する際、フロベニウスノルムおよびスペクトルノルム下でのバンド化VAR係数行列の最小二乗推定器の収束速度は何か？
• RQ3 提案されたマージナルベイジアン情報基準（BIC）は、高次元バンド化VARモデルにおけるバンド幅選択に対して一貫性を持つか？
• RQ4 バンド切断された標本自己共分散行列は、バンド化VAR過程における真の自己共分散関数の一致推定器として機能するか？
• RQ5 時系列成分の順序付けが、バンド化VARモデルにおける推定精度および予測性能にどのように影響するか？

主な発見

• バンド化VAR係数行列の最小二乗推定器は、n と p が発散する際、フロベニウスノルム下で (p/n)^{1/2}、スペクトルノルム下で (log p/n)^{1/2} の収束速度を達成する。
• 提案されたマージナルベイジアン情報基準（BIC）は、n と p が無限大に近づく際、真のバンド幅 k₀ を一貫して選択する。
• バンド切断された標本自己共分散行列は、真の自己共分散関数の一致推定器であり、収束速度が log(n/log p)(log p/n)^{1/2} に達する。これは、標準的なバンド化共分散推定器よりも高速である。
• シミュレーションでは、真の順序を用いたモデルが最も低いBICと最小の事後予測誤差を示し、次に局所的順列およびlassoベースのモデルが続く。
• 任意のランダム順列を用いたモデルは最も悪い性能を示し、適切な順序付けが性能に大きく寄与することが示された。真の順序は、BICおよび予測精度の両面で一貫して他を上回った。
• n=200 および p=100 の場合、真の順序では1ステップ先予測誤差が 0.787(0.06) に達したのに対し、ランダム順列では 0.828(0.07) となり、有意義な性能差が確認された。