[論文レビュー] Nonparametric risk bounds for time-series forecasting

Daniel J. McDonald, Cosma Rohilla Shalizi+1 more|arXiv (Cornell University)|Dec 3, 2012

Monetary Policy and Economic Impact被引用数 6

ひとこと要約

この論文は、一般化誤差理論を用いて、ARMA、VAR、線形状態空間モデルなどの時系列予測モデルに対して、漸近的でなく、非パrametricなリスクバインドを確立する。予測リスクの高確率バインドを、標本内性能とモデルの複雑さ（VC次元を介して）に依存させるものであり、漸近的近似や強い分布仮定に依存せずに、ロバストなモデル選択を可能にする。

ABSTRACT

We derive generalization error bounds for traditional time-series forecasting models. Our results hold for many standard forecasting tools including autoregressive models, moving average models, and, more generally, linear state-space models. These non-asymptotic bounds need only weak assumptions on the data-generating process, yet allow forecasters to select among competing models and to guarantee, with high probability, that their chosen model will perform well. We motivate our techniques with and apply them to standard economic and financial forecasting tools---a GARCH model for predicting equity volatility and a dynamic stochastic general equilibrium model (DSGE), the standard tool in macroeconomic forecasting. We demonstrate in particular how our techniques can aid forecasters and policy makers in choosing models which behave well under uncertainty and mis-specification.

研究の動機と目的

• 一般的な時系列予測モデル（ARMA、VAR、線形状態空間モデルなど）の有限標本、高確率バインドを一般化誤差（予測リスク）に適用すること。
• AIC/BICのような尤度に基づく基準に依存せず、漸近的近似に依存しない時系列予測におけるモデル選択を可能にすること。
• 独立同一分布（i.i.d.）学習理論の結果を、弱い仮定（ stationarity, モーメント条件, ミキシング）の下で、従属する時系列データへと拡張すること。
• 不確実性やモデル誤指定下での経済的・金融的予測における、原理的モデル比較とパフォーマンス保証を支援すること。
• GARCH や DSGE モデルのような実世界のモデルへの適用を示し、政策立案やリスク評価における信頼性を高めること。

提案手法

• 弱い仮定（定常性、ミキシングなど）の下で、モデルクラスおよび未知のデータ生成分布の上に一様に成り立つ非漸近的リスクバインドを導出する。
• 測度集中の技術とVC次元に基づく複雑度制御を、弱い依存性を示す時系列設定に適応する。
• 構造的リスク最小化（SRM）の原則を用いて、期待予測リスクの上界を最小化するモデルを選択する。
• VC次元に比例するペナルティ項を伴う経験的リスク最小化を用い、フィットとモデル複雑度のバランスを取る。
• 有限記憶の非線形予測子および線形時不変状態空間モデル（過去全履歴を用いるものも含む）の両方に対してバインドを確立する。
• GARCH（ボラティリティ予測）やDSGEモデル（マクロ経済予測）といった標準的な経済的・金融的モデルへの適用を示す。

実験結果

リサーチクエスチョン

• RQ1 データ生成過程に弱い仮定（例：定常性、ミキシング）を課したもとで、時系列予測モデルに対して非漸近的・高確率的リスクバインドを導出可能か？
• RQ2 尤度の明示的表現や漸近的近似に依存せずに、時系列予測におけるモデル選択をどのように行えるか？
• RQ3 VC次元に基づく複雑度制御を、定常的で従属する時系列データにおいて、予測リスクをバインドするためにどの程度活用できるか？
• RQ4 これらのバインドは、GARCH や DSGE モデルのような実世界のモデルに適用可能か？また、誤指定下でのロバスト性をどのように向上させるか？
• RQ5 AIC や交差検証といった従来手法と比較して、理論的保証および有限標本性能の面で、これらのバインドはどのように異なるか？

主な発見

• 論文は、ARMA、VAR、線形状態空間モデルを含む広範なクラスの時系列モデルに対して、有限標本・高確率上界としての一般化誤差（予測リスク）バインドを確立した。
• バインドは経験的リスクとVC次元に比例する複雑度ペナルティに依存しており、構造的リスク最小化によるモデル選択を可能にする。
• 最小限の仮定（モーメントの存在、定常性、時系列依存の減少＝ミキシング）の下で成り立つ。i.i.d.データや有界損失の仮定は不要である。
• 予測リスクの上界を最小化するモデル選択が可能であり、AIC や BIC よりも強い理論的保証を提供する。
• GARCH モデル（株式市場ボラティリティ予測）および DSGE モデル（マクロ経済予測）への適用が示され、不確実性下でのロバスト性が向上していることが明らかになった。
• 一般化誤差バインドの最小化が、特にモデル誤指定下で、従来の基準よりも優れた予測性能をもたらすという示唆が得られた。