[论文解读] Gaussian Processes for Functional Autoregression

Daniel R. Kowal, David S. Matteson+1 more|arXiv (Cornell University)|Mar 9, 2016

Gaussian Processes and Bayesian Inference参考文献 35被引用 1

一句话总结

本文提出了一种分层高斯过程模型，用于函数时间序列预测，通过将潜在过程建模为具有高斯过程创新项的函数自回归模型，有效处理稀疏、不规则且含误差的数据。该方法通过非参数动态因子模型和高效的吉布斯采样，在稀疏采样条件下实现了卓越的预测与插值性能，并在高斯假设被放宽时仍能证明理论最优性。

ABSTRACT

We develop a hierarchical Gaussian process model for forecasting and inference of functional time series data. Unlike existing methods, our approach is especially suited for sparsely or irregularly sampled curves and for curves sampled with non-negligible measurement error. The latent process is dynamically modeled as a functional autoregression (FAR) with Gaussian process innovations. We propose a fully nonparametric dynamic functional factor model for the dynamic innovation process, with broader applicability and improved computational efficiency over standard Gaussian process models. We prove finite-sample forecasting and interpolation optimality properties of the proposed model, which remain valid with the Gaussian assumption relaxed. An efficient Gibbs sampling algorithm is developed for estimation, inference, and forecasting, with extensions for FAR(p) models with model averaging over the lag p. Extensive simulations demonstrate substantial improvements in forecasting performance and recovery of the autoregressive surface over competing methods, especially under sparse designs. We apply the proposed methods to forecast nominal and real yield curves using daily U.S. data. Real yields are observed more sparsely than nominal yields, yet the proposed methods are highly competitive in both settings.

研究动机与目标

• 解决标准方法在稀疏、不规则或含误差采样下失效的功能时间序列预测挑战。
• 开发一种灵活的非参数方法，以建模函数自回归中的动态创新过程。
• 即使在高斯假设被放宽的情况下，也确保在有限样本下预测与插值的理论最优性。
• 与标准函数数据高斯过程模型相比，提升计算效率与可扩展性。
• 在实际应用场景中实现稳健的推断与预测，例如在混合采样频率下的收益率曲线建模。

提出的方法

• 将潜在函数时间序列建模为具有高斯过程创新项的函数自回归（FAR），以捕捉时间依赖性与函数变异。
• 引入一种完全非参数的动态函数因子模型，以表示时变的创新过程，提升灵活性与计算效率。
• 使用分层高斯过程先验，联合建模自回归表面与创新过程，实现跨曲线的强度借用。
• 开发高效的吉布斯采样算法，用于后验推断、预测与不确定性量化，并扩展至滞后阶数 p 的模型平均。
• 构建模型以在创新项的高斯假设被放宽时，仍保持预测与插值的有限样本最优性。
• 将模型应用于模拟数据与真实收益率曲线数据，验证其在不同采样制度下的鲁棒性。

实验结果

研究问题

• RQ1 非参数高斯过程模型是否能提升稀疏或不规则采样下函数时间序列的预测准确性？
• RQ2 在稀疏设计下，与现有方法相比，所提模型在恢复真实自回归表面方面表现如何？
• RQ3 放宽对创新项的高斯假设，对预测与插值过程的理论最优性影响有多大？
• RQ4 与标准高斯过程模型相比，创新项的动态函数因子模型在函数时间序列设置中是否能实现更好的计算效率？
• RQ5 在实际应用中，例如对名义与实际美国收益率曲线进行不同采样频率的预测时，该方法表现如何？

主要发现

• 所提模型在预测性能上显著优于对比方法，尤其在稀疏采样设计下表现突出。
• 在模拟研究中，该方法在不规则采样曲线下表现出对潜在自回归表面的强恢复能力，优于基准方法。
• 即使在放宽对创新项的高斯假设时，预测与插值的有限样本最优性仍得以保持。
• 吉布斯采样算法实现了高效的估计、推断与预测，且通过创新项的非参数因子模型进一步提升了可扩展性。
• 在对美国收益率曲线的实际应用中，该方法在名义收益率（高频采样）与实际收益率（稀疏采样）中均保持高度竞争力。
• 对滞后阶数 p 的模型平均显著提升了稳健性与预测性能，尤其在最优滞后结构不确定的场景下。