[論文レビュー] Locally adaptive factor processes for multivariate time series

Daniele Durante, Bruno Scarpa+1 more|arXiv (Cornell University)|Oct 7, 2012

Gaussian Processes and Bayesian Inference参考文献 39被引用数 36

ひとこと要約

本稿では、ネストされたガウス過程とスパースな線形マッピングを用いて、平均および分散共分散行列における時間変動する滑らかさをモデル化する、局所的に適応する要因（LAF）プロセスを提案する。微分方程式の表現を活用することで、効率的なMCMCおよびオンライン推論が可能となり、固定の滑らかさを持つモデルに比べ、急激な変化とゆっくりとした変化の両方をよりよく捉える。金融データにおいて、予測のキャリブレーションと不確実性の定量化の両面で改善が確認された。

ABSTRACT

In modeling multivariate time series, it is important to allow time-varying smoothness in the mean and covariance process. In particular, there may be certain time intervals exhibiting rapid changes and others in which changes are slow. If such time-varying smoothness is not accounted for, one can obtain misleading inferences and predictions, with over-smoothing across erratic time intervals and under-smoothing across times exhibiting slow variation. This can lead to mis-calibration of predictive intervals, which can be substantially too narrow or wide depending on the time. We propose a locally adaptive factor process for characterizing multivariate mean-covariance changes in continuous time, allowing locally varying smoothness in both the mean and covariance matrix. This process is constructed utilizing latent dictionary functions evolving in time through nested Gaussian processes and linearly related to the observed data with a sparse mapping. Using a differential equation representation, we bypass usual computational bottlenecks in obtaining MCMC and online algorithms for approximate Bayesian inference. The performance is assessed in simulations and illustrated in a financial application.

研究の動機と目的

• 既存のモデルが多変量時系列の平均および共分散プロセスにおける局所的な滑らかさの変動を捉える能力に制限を抱えていることに対処すること。
• 動的平均・共分散構造における急激な変化とゆっくりとした変化に適応できる、柔軟で非パrametricなベイズモデルを構築すること。
• 時間変動する滑らかさを有する高次元多変量時系列における、計算的に効率的なMCMCおよびオンライン推論を可能にすること。
• 暴動期における過剰な滑らかさと安定期における不足な滑らかさを回避することで、予測精度と不確実性のキャリブレーションを向上させること。
• 構造的な階層的構成により、欠損データの処理と共分散行列の正定値性の維持を可能にすること。

提案手法

• LAFプロセスは、時間変動する滑らかさを平均および共分散にモデル化するため、ネストされたガウス過程を介して時間的に変化する潜在的辞書関数を用いる。
• 観測データは、次元削減と計算効率を確保するため、スパースなマッピング行列 Θ を介して潜在プロセスと線形関係にある。
• 状態空間プロセスの微分方程式表現を採用することで、MCMCおよびオンライン推論における計算のボトル neck を回避する。
• グローバルおよびローカルのハイパーパrameterを用いた階層的シャーピング事前分布を因子負荷に課し、スパarsityと適応性を誘導する。
• 共役事後分布を用いて、逐次的に潜在状態、因子負荷、ハイパーパrameterを更新するギブスサンプラーを用いて後方分布推論を実施する。
• モデルパラメータをその事後平均で固定し、シミュレーションスムージングを用いて潜在状態と予測分布を逐次更新することで、オンライン更新アルゴリズムを構築する。

実験結果

リサーチクエスチョン

• RQ1 ベイズ非パrametricモデルは、固定滑らかさモデルに比べ、多変量時系列の平均および共分散における局所的な滑らかさの変動をより効果的に捉えることができるか？
• RQ2 共分散行列の正定値性を維持しつつ、平均・共分散プロセスにおける時間変動する滑らかさをどのようにモデル化できるか？
• RQ3 高次元多変量時系列に複雑な動的依存関係がある場合に、スケーラブルなMCMCおよびオンライン推論を可能にする計算戦略は何か？
• RQ4 局所的に適応するスムージングは、暴動的な金融時系列における予測区間のキャリブレーションとリスク予測に、どの程度向上効果をもたらすか？
• RQ5 欠損データおよび非 stationarity なボラティリティパターンの存在下で、モデルはどのように性能を発揮するか？

主な発見

• LAFプロセスは、平均および共分散の両方において局所的に変動する滑らかさを効果的に捉えており、暴動期における過剰なスムージングや安定期における不足なスムージングを回避している。
• 予測区間のキャリブレーションが向上し、異なるボラティリティレジームにおいて、区間がやや狭すぎずやや広すぎない特性を示している。
• 微分方程式表現により、効率的なMCMCおよびオンライン推論が可能となり、標準的なMCMC手法に比べて計算コストを顕著に削減した。
• 共役事前分布を用いたギブスサンプラーにより、中程度の次元数 p に対しても安定的かつ取り扱いやすい後方分布計算が実現された。
• オンライン更新アルゴリズムは、ハイパーパrameterの事後平均とシミュレーションスムージングを用いて、潜在状態を逐次更新することで、予測精度を維持している。
• DAX30の平方対数リターンに対する実証的結果から、LAFモデルは、動的ボラティリティおよび共動的パターンを、固定滑らかさモデルの代替としてよりよく捉えていることが示された。