[论文解读] Predicting Inflation with Recurrent Neural Networks

Livia Paranhos|arXiv (Cornell University)|Apr 8, 2021

Market Dynamics and Volatility被引用 4

一句话总结

本文将长短期记忆（LSTM）循环神经网络应用于FRED-MD数据集，以预测美国通胀，结果表明LSTM在长周期预测及宏观经济不稳定时期的表现优于传统模型。该模型还作为非线性降维工具，提取出与产出缺口和通胀预测因子相关联的经济上可解释的因子，同时强调了集成方法在应对模型对初始化和结构敏感性方面的重要性。

ABSTRACT

This paper applies a recurrent neural network, the LSTM, to forecast inflation. This is an appealing model for time series as it processes each time step sequentially and explicitly learns dynamic dependencies. The paper also explores the dimension reduction capability of the model to uncover economically-meaningful factors that can explain the inflation process. Results from an exercise with US data indicate that the estimated neural nets present competitive, but not outstanding, performance against common benchmarks (including other machine learning models). The LSTM in particular is found to perform well at long horizons and during periods of heightened macroeconomic uncertainty. Interestingly, LSTM-implied factors present high correlation with business cycle indicators, informing on the usefulness of such signals as inflation predictors. The paper also sheds light on the impact of network initialization and architecture on forecast performance.

研究动机与目标

• 评估LSTM网络在预测美国通胀方面相较于传统模型和机器学习基准的表现。
• 探究LSTM是否能够提取出非线性、具有经济意义的因子，以解释通胀动态。
• 评估网络初始化和结构对预测准确率的影响。
• 为宏观经济预测中实现神经网络提供实用指导，特别强调集成技术的重要性。

提出的方法

• 本研究采用长短期记忆（LSTM）循环神经网络对序列化通胀数据进行建模，通过门控记忆单元捕捉长期依赖关系。
• 模型在FRED-MD数据集上进行训练，整合137个宏观经济与金融指标，用于预测美国CPI和PCE通胀率。
• 从LSTM的隐藏层中提取非线性因子，将其解释为有监督的、具有预测能力的潜在状态，可视为在预测情境下对主成分分析（PCA）的推广。
• 通过样本外均方预测误差（MSPE）和与基准模型的Diebold-Mariano检验评估预测性能，基准模型包括随机森林、LASSO、Ridge、Elastic-net及前馈神经网络。
• 通过平均1,400次不同随机初始化的预测结果，实施集成方法，以缓解对初始化的敏感性并提升鲁棒性。
• 采用方差分解与相关性分析，解释LSTM提取因子的经济内涵，将其与经济周期指标及已知的通胀预测因子相联系。

Figure 1: The feed-forward neural network

实验结果

研究问题

• RQ1 LSTM模型在不同预测周期下，相较于传统模型和机器学习基准，在预测美国通胀方面表现如何？
• RQ2 LSTM网络是否能够提取出非线性、具有经济可解释性的因子，以捕捉通胀的潜在趋势与经济周期动态？
• RQ3 LSTM模型的预测性能在多大程度上受网络初始化和结构的影响？
• RQ4 对多个初始化结果进行集成平均，是否能显著提升预测准确率与鲁棒性？

主要发现

• LSTM模型展现出具有竞争力的预测性能，尤其在长周期（如24个月）预测及GFC后宏观经济不确定性较高的时期表现突出。
• LSTM在多数基准中表现优异，但其性能仍不及随机森林模型，后者展现出整体更高的预测准确性。
• LSTM提取的因子与产出缺口及其他经济周期指标具有高度相关性（r > 0.7），表明其捕捉到了关键的通胀驱动因素。
• LSTM因子的方差分解显示其在住房开工量和公司债利差上具有显著载荷，而这两者正是通胀文献中公认的预测指标。
• 网络初始化对预测结果影响显著，单次运行结果差异较大；而集成平均结果在Diebold-Mariano检验中始终以5%的显著性水平优于任一单次初始化。
• 更大的网络结构对初始化更加敏感，且未发现其在性能上存在一致优势，凸显了采用集成方法以稳定预测的必要性。

Figure 2: The LSTM and the flow of information