[論文レビュー] Adaptive Dynamic Model Averaging with an Application to House Price Forecasting

Alisa Yusupova, Nicos G. Pavlidis+1 more|arXiv (Cornell University)|Dec 10, 2019

Housing Market and Economics被引用数 4

ひとこと要約

本稿では、動的線形モデル（DLM）における忘却係数を逐次的に最適化するオンラインでデータ駆動型の手法である、適応的動的モデル平均化（ADMA）を提案する。ADMAは確率的最適化を用いて忘却係数を適応的に調整し、信頼性の高いモデル結合にConfHedgeアルゴリズムを採用する。ADMAは、事前に定義されたグリッドや固定パラメータを必要とせず、構造的変化に動的に適合することで、UKの住宅価格予測においてベンチマークモデルや従来のDMA仕様を上回る予測精度を達成する。

ABSTRACT

Dynamic model averaging (DMA) combines the forecasts of a large number of dynamic linear models (DLMs) to predict the future value of a time series. The performance of DMA critically depends on the appropriate choice of two forgetting factors. The first of these controls the speed of adaptation of the coefficient vector of each DLM, while the second enables time variation in the model averaging stage. In this paper we develop a novel, adaptive dynamic model averaging (ADMA) methodology. The proposed methodology employs a stochastic optimisation algorithm that sequentially updates the forgetting factor of each DLM, and uses a state-of-the-art non-parametric model combination algorithm from the prediction with expert advice literature, which offers finite-time performance guarantees. An empirical application to quarterly UK house price data suggests that ADMA produces more accurate forecasts than the benchmark autoregressive model, as well as competing DMA specifications.

研究の動機と目的

• 構造的不安定性下での予測精度に顕著な影響を与える忘却係数の最適選択という、極めて重要な課題に取り組むこと。
• 固定値やグリッドベースの選択を回避し、確率的最適化を用いて各DLMの忘却係数λを逐次的に更新する、完全にオンラインでデータ駆動型の手法を開発すること。
• 従来の忘却ベースの重み付けに代えて、有限時間性能バウンドを保証するパラメータフリーなアルゴリズムであるConfHedgeを用いて、モデル平均化を改善すること。
• 提示されたADMA手法を四半期ごとのUK住宅価格データに対して実証的に評価し、優れた予測精度を示すこと。
• Bayesian的手法やグリッドベースの手法と比較して、計算コストが低く、DMAにおける忘却係数選択の代替手段を提供すること。

提案手法

• ADMAは、期待される1ステップ先の予測誤差の二乗の最小化を目的に、Adam最適化子を用いた確率的勾配降下法により、各DLMの忘却係数λを逐次的に更新する。
• 適応的忘却DLM（AF-DLM）コンponentは、係数推定値、分散共分散行列、予測分散に関する再帰的公式を用いて、λに関する予測誤差の勾配を計算する。
• モデル平均化では、固定された忘却係数の代わりに、専門家アドバイスの原理に基づき、複数のDLMからの予測を統合するConfHedgeアルゴリズムを採用し、有限時間性能バウンドを保証する。
• 過去のパフォーマンスに基づき、動的に重みを調整する非パラメトリックで信頼性に配慮した結合ルールを採用することで、アンダーフローの問題を回避する。
• アルゴリズムは完全にオンラインであり、事前に定義された忘却係数のグリッドを必要とせず、Bayesian周辺化やグリッドサーチと比較して計算効率が優れている。
• カルマンフィルタを用いた動的係数更新と、適応的λチューニングを統合することで、構造的シフトにリアルタイムで対応可能となる。

実験結果

リサーチクエスチョン

• RQ1 DLMにおける忘却係数の適応的チューニングは、時間的に変化する構造的変化下で予測精度を向上させることができるか？
• RQ2 固定されたモデル平均化重みの代わりに、ConfHedgeに基づく結合ルールを採用することで、予測性能とロバストネスが向上するか？
• RQ3 ADMAは、UK住宅価格予測において、ベンチマーク自己回帰モデルや標準的なDMA仕様と比較してどのように異なるか？
• RQ4 λ選択に確率的最適化アプローチを用いることで、グリッドベースやBayesian手法と比較して、精度と計算コストの面で優れているか？
• RQ5 ADMAは、マクロ経済時系列における構造的変化の種類や速度の変動に対して、どの程度の性能を維持できるか？

主な発見

• ADMAは、平均二乗誤差（MSE）を指標として測定したところ、ベンチマーク自己回帰モデルに比べ、四半期ごとのUK住宅価格予測において顕著に高い精度を達成する。
• 固定値またはグリッドベースの忘却係数を用いる競合するDMA仕様と比較して、特に構造的不安定性が顕著な期間において優れた性能を示す。
• AF-DLMコンponentは、急激な構造的ブレイクを含む、データ生成過程における変化の速度や種類に適応して効果的に対応する。
• ConfHedgeに基づくモデル結合は、有限時間性能保証を達成し、最適なモデル系列の予測誤差の上限が保証された範囲内に収束することを示す。
• 複数のλ値に対する周辺化の必要性を排除することで、Bayesian的手法やグリッドベースの手法と比較して、計算コストを削減する。
• 実証的結果から、適応的忘却は、特に変動が激しい、またはレジームシフトが発生する環境において、より迅速かつ正確な予測を可能にする。