[論文レビュー] Conditional Autoregressive Hilbertian processes

Jairo Cugliari|arXiv (Cornell University)|Feb 14, 2013

Neural Networks and Applications参考文献 16被引用数 4

ひとこと要約

本稿では、条件付き期待値を通じて外生的共変量に依存する自己回帰作用素を許容する機能的時系列モデルである条件付き自己回帰ヒルバート作用素（carh）過程を導入する。この手法は無限次元作用素の局所的カーネル推定を用い、推定子および予測子のほとんど確実な一貫性を確立する。実世界の電力需要予測への応用において、標準的な arh モデルよりも優れた性能を示す。

ABSTRACT

When considering the problem of forecasting a continuous-time stochastic process over an entire time-interval in terms of its recent past, the notion of Autoregressive Hilbert space processes (ARH) arises. This model can be seen as a generalization of the classical autoregressive processes to Hilbert space valued random variables. Its estimation presents several challenges that were addressed by many authors in recent years. In this paper, we propose an extension based on this model by introducing a conditioning process on the arh. In this way, we are aiming a double objective. First, the intrinsic linearity of arh is overwhelm. Second, we allow the introduction of exogenous covariates on this function- valued time series model. We begin defining a new kind of processes that we call Conditional arh. We then propose estimators for the infinite dimensional parameters associated to such processes. Using two classes of predictors defined within the arh framework, we extend these to our case. Consistency results are provided as well as a real data application related to electricity load forecasting.

研究の動機と目的

• 外生的共変量を非加法的・条件付きに組み込むことで、自己回帰ヒルバート作用素（arh）作用素を拡張すること。
• arh モデルの本質的な線形性を克服し、自己回帰作用素が共変量に応じて変化することを許容すること。
• 機能的・非パラメトリックな設定下で無限次元条件付き作用素の一貫した推定子を開発すること。
• 共変量に依存する局所的依存性を活用した、2つの予測子クラスを提案し、より優れた予測を実現すること。
• 実世界の電力需要予測応用を通じて、モデルの実証的妥当性を検証すること。

提案手法

• 外生的共変量 $ V $ に依存する確率的作用素 $ \rho_V $ を用いて定義される、新たな機能的時系列のクラス、すなわち条件付き自己回帰ヒルバート作用素（carh）作用素を提案する。$ Z_{k+1} = \rho_V Z_k + \epsilon_k $ と表される。
• 条件付き平均作用素 $ \rho_v $ の推定に、データ駆動のルールに従うバンド幅選択を伴う、局所的カーネル加重平均を用いる。
• 2次モーメント作用素 $ R(v) = \mathbb{E}^v[Z_0 \otimes Z_0 \mid V] $ および条件付き平均 $ a(v) = \mathbb{E}^v[Z_0 \mid V] $ の実現値を用いる。
• 比推定法により条件付き作用素 $ r(v) = \rho_v $ の推定子を導出する：$ \widehat{r}_n = \widehat{g}_{v,n} / \widehat{f}_n $、ここで $ \widehat{g}_{v,n} $ と $ \widehat{f}_n $ はそれぞれ共分散および自己モーメントの局所推定値である。
• 推定子およびその固有構造のほとんど確実な一貫性を、$ \mathcal{K}_2 $-ノルム収束を用いて確立する。
• arh フレームワークから適応された2つの予測子クラス（条件付き期待値に基づくものと固有関数展開に基づくもの）を carh 框組みに拡張し、理論的一貫性保証を付与する。

実験結果

リサーチクエスチョン

• RQ1 機能的自己回帰モデルは、非加法的な方法で外生的共変量に依存する自己回帰作用素を許容するように拡張可能か？
• RQ2 機能的・非パラメトリックな設定下で、無限次元条件付き作用素の一貫した推定がどのように達成可能か？
• RQ3 共変量の存在下で、局所的条件付き推定に依存する予測子は、標準的な arh 予測子を上回る性能を示すか？
• RQ4 条件付き作用素およびそのスペクトル成分の推定子の理論的収束速度は何か？
• RQ5 提案されたモデルは、電力需要曲線などの実世界の機能的時系列において、予測精度を向上させられるか？

主な発見

• 条件付き作用素 $ \rho_v $ の推定子 $ \widehat{r}_n $ は、$ \mathcal{K}_2 $-ノルムにおいて、$ \mathcal{O}\left(\left(\frac{n}{\ln n}\right)^{\frac{2}{4+d}}\right) $ のレートで真の作用素にほとんど確実に収束する。
• 条件付き作用素 $ \Gamma_v $ の固有値および固有関数は、$ \widehat{\Gamma}_{v,n} $ の作用素ノルム誤差によって上限が与えられる収束速度を持つ一貫した推定が可能である。
• 正則性条件の下で、提案された予測子の予測誤差はほとんど確実にゼロに収束し、理論的一致性が確認される。
• 電力需要応用において、標準的な arh モデルに比べて、本モデルはより優れた予測性能を示す。特に、気温や時刻などの共変量が使用された場合に顕著である。
• 局所的カーネル加重法により、共変量依存のダイナミクスを通じて、機能的時系列のレジームシフトや非 stationarity に適応可能である。
• 弱依存性および共変量の密度の連続性といった最小限の仮定の下で理論的結果を導出し、広範な適用可能性を保証する。