[論文レビュー] Predictive properties of forecast combination, ensemble methods, and Bayesian predictive synthesis

Kōsaku Takanashi, Kenichiro McAlinn|arXiv (Cornell University)|Nov 20, 2019

Forecasting Techniques and Applications参考文献 35被引用数 2

ひとこと要約

本稿では、連続時間確率過程に基づく非線形予測結合手法を提案し、伊藤の補題を用いて予測誤差ダイナミクスをモデル化する。非線形合成が、現実的条件下で線形結合、平均化、アンサンブル手法よりも期待二乗予測誤差をより効果的に低減することを示している。ベイズ予測合成は、特別な場合として含まれる。

ABSTRACT

This paper studies the theoretical predictive properties of classes of forecast combination methods. A novel strategy based on continuous time stochastic processes is proposed and developed, where the combined predictive error processes are expressed as stochastic differential equations, evaluated using Ito's lemma. We identify a class of forecast combination methods, which we categorize as non-linear synthesis, and find that it entails an extra term in the predictive error process that corrects the bias from misspecification and dependence amongst forecasts, effectively improving forecasts. We show that a subclass of the recently developed framework of Bayesian predictive synthesis fits within this class. Theoretical properties are examined and we show that non-linear synthesis improves the expected squared forecast error over any and all linear combination, averaging, and ensemble of forecasts, under mild conditions that are met in most real applications. We discuss the conditions for which non-linear synthesis outperforms linear combinations, and its implications for developing further strategies. A finite sample simulation study is presented to illustrate our results.

研究の動機と目的

• 予測結合手法の理論的予測特性、特に非線形アプローチの特性を調査すること。
• 予測誤差ダイナミクスをモデル化するための連続時間確率過程フレームワークを構築すること。
• 非線形合成が線形結合およびアンサンブル手法を上回る条件を同定すること。
• ベイズ予測合成が提案された非線形合成フレームワークの特殊ケースであることを示すこと。
• 理論的およびシミュレーション分析を通じて、期待二乗誤差の改善を実証すること。

提案手法

• 連続時間確率過程から導かれる確率微分方程式を用いて、結合予測誤差をモデル化すること。
• 予測誤差プロセスのダイナミクスを予測結合フレームワーク内で分析するために、伊藤の補題を適用すること。
• バイアスと依存性を補正するための追加項を備えた、非線形合成と呼ばれる新しい手法クラスを定義すること。
• 非線形合成が線形結合およびアンサンブル手法を理論的に上回る条件を導出すること。
• 非線形合成フレームワーク内にベイズ予測合成を特別なケースとして含む部分クラスを定式化すること。
• 有限標本におけるシミュレーションスタディを実施し、理論的結果の妥当性を検証すること。

実験結果

リサーチクエスチョン

• RQ1 非線形予測結合手法は、線形結合と比較して予測精度においてどのように異なるか？
• RQ2 非線形合成が線形手法よりも期待二乗誤差をより効果的に低減する理論的条件は何か？
• RQ3 非線形合成にバイアス補正項を組み込むことで、予測性能はどのように向上するか？
• RQ4 ベイズ予測合成は、提案された非線形合成フレームワークとどのように関係しているか？
• RQ5 どのような実証的条件下で、非線形合成が標準的なアンサンブルおよび平均化手法を上回るか？

主な発見

• 非線形合成は、穏やかな現実的条件下では、任意の線形結合、平均化、アンサンブル手法よりも期待二乗予測誤差をより小さくする。
• 非線形合成に含まれる追加の補正項は、モデル不適合によるバイアスと予測の依存性を特に効果的に処理する。
• ベイズ予測合成は、提案された非線形合成手法のクラスに形式的に組み込まれている。
• 理論的分析により、非線形合成が予測精度の観点で線形手法を理論的に上回ることが確認された。
• 有限標本におけるシミュレーションは理論的結果を支持しており、実用的状況下でも一貫した性能向上が示された。
• 予測の依存性とモデル不適合が存在する多様な予測シナリオにおいて、本手法は頑健である。