[论文解读] Adaptive Dynamic Model Averaging with an Application to House Price Forecasting

Alisa Yusupova, Nicos G. Pavlidis+1 more|arXiv (Cornell University)|Dec 10, 2019

Housing Market and Economics被引用 4

一句话总结

本文提出自适应动态模型平均（ADMA），一种在线、数据驱动的方法，利用随机优化自适应调节动态线性模型（DLMs）中的遗忘因子，并采用ConfHedge算法实现稳健的模型组合。ADMA通过动态适应结构变化，在无需预设网格或固定参数的情况下，相较于基准模型和传统DMA设定，显著提升了英国房价预测的准确性。

ABSTRACT

Dynamic model averaging (DMA) combines the forecasts of a large number of dynamic linear models (DLMs) to predict the future value of a time series. The performance of DMA critically depends on the appropriate choice of two forgetting factors. The first of these controls the speed of adaptation of the coefficient vector of each DLM, while the second enables time variation in the model averaging stage. In this paper we develop a novel, adaptive dynamic model averaging (ADMA) methodology. The proposed methodology employs a stochastic optimisation algorithm that sequentially updates the forgetting factor of each DLM, and uses a state-of-the-art non-parametric model combination algorithm from the prediction with expert advice literature, which offers finite-time performance guarantees. An empirical application to quarterly UK house price data suggests that ADMA produces more accurate forecasts than the benchmark autoregressive model, as well as competing DMA specifications.

研究动机与目标

• 为解决动态模型平均（DMA）中选择最优遗忘因子这一关键挑战，该问题在结构不稳定条件下显著影响预测准确性。
• 开发一种完全在线、数据驱动的方法，利用随机优化自适应更新每个DLM的遗忘因子λ，避免固定或基于网格的选择。
• 通过用ConfHedge替代传统的基于遗忘的加权方法，改进模型平均，ConfHedge是一种无参数算法，可提供有限时间性能边界。
• 在季度英国房价数据上实证评估所提出的ADMA方法，证明其具有更高的预测准确性。
• 为DMA中遗忘因子选择提供一种计算高效的替代方案，避免使用贝叶斯或基于网格的方法。

提出的方法

• ADMA使用带有Adam优化器的随机梯度下降法，顺序更新每个DLM的遗忘因子λ，以最小化期望的一步 ahead 平方预测误差。
• 自适应遗忘DLM（AF-DLM）组件通过递归公式计算系数估计、协方差矩阵和预测方差关于λ的梯度。
• 模型平均用ConfHedge算法替代固定遗忘因子，该算法基于专家建议原理，将多个DLM的预测结果进行组合，并保证有限时间性能边界。
• 通过使用非参数化、基于置信度的组合规则，避免下溢问题，动态根据历史表现调整权重。
• 该算法完全在线运行，无需预设遗忘因子网格，且相比贝叶斯边际化或网格搜索方法，计算效率更高。
• 该框架将通过卡尔曼滤波实现的动态系数更新与自适应λ调优相结合，实现对结构变化的实时响应。

实验结果

研究问题

• RQ1 在时变结构变化下，DLM中遗忘因子的自适应调节能否提升预测准确性？
• RQ2 用基于ConfHedge的组合规则替代固定模型平均权重，能否增强预测性能与鲁棒性？
• RQ3 ADMA在预测英国房价方面与基准自回归模型及标准DMA设定相比表现如何？
• RQ4 与基于网格或贝叶斯的方法相比，λ选择的随机优化方法在准确性和计算成本方面是否更具优势？
• RQ5 在宏观时间序列中，ADMA在不同类型和速度的结构变化下，其性能维持程度如何？

主要发现

• ADMA在均方误差（MSE）衡量下，对季度英国房价的预测显著优于基准自回归模型。
• ADMA优于采用固定或基于网格遗忘因子的对比DMA设定，尤其在结构不稳定的时期表现更优。
• AF-DLM组件能有效适应数据生成过程中的变化速度与类型，包括突发的结构断裂。
• 基于ConfHedge的模型组合实现了有限时间性能保证，确保预测误差始终处于最优模型序列的已知边界内。
• 与贝叶斯或基于网格的方法相比，所提方法通过消除对多个λ值进行边际化的需要，显著降低了计算成本。
• 实证结果表明，自适应遗忘可带来更具响应性与准确性的预测，尤其在波动性高或制度切换的环境中。