[论文解读] Shrinkage in the Time-Varying Parameter Model Framework Using the R Package shrinkTVP

Peter Knaus, Angela Bitto-Nemling+2 more|arXiv (Cornell University)|Jul 16, 2019

Statistical Methods and Inference参考文献 37被引用 7

一句话总结

本文介绍了 R 包 shrinkTVP，该包通过分层收缩先验（包括正态-伽马-伽马（NGG）、正态-伽马（NG）和岭回归先验）在时变参数（TVP）模型中实现收缩。该方法可实现时间变系数的自适应估计，并自动学习超参数，通过自适应的梅特罗波利斯-吉布斯采样进行 MCMC，实现灵活、稳健且可扩展的推断。

ABSTRACT

Time-varying parameter (TVP) models are widely used in time series analysis to flexibly deal with processes which gradually change over time. However, the risk of overfitting in TVP models is well known. This issue can be dealt with using appropriate global-local shrinkage priors, which pull time-varying parameters towards static ones. In this paper, we introduce the R package shrinkTVP (Knaus, Bitto-Nemling, Cadonna, and Frühwirth-Schnatter 2019), which provides a fully Bayesian implementation of shrinkage priors for TVP models, taking advantage of recent developments in the literature, in particular that of Bitto and Frühwirth-Schnatter (2019). The package shrinkTVP allows for posterior simulation of the parameters through an efficient Markov Chain Monte Carlo (MCMC) scheme. Moreover, summary and visualization methods, as well as the possibility of assessing predictive performance through log predictive density scores (LPDSs), are provided. The computationally intensive tasks have been implemented in C++ and interfaced with R. The paper includes a brief overview of the models and shrinkage priors implemented in the package. Furthermore, core functionalities are illustrated, both with simulated and real data.

研究动机与目标

• 开发一个灵活的贝叶斯框架，用于时变参数模型，实现系数的自动收缩。
• 在统一的 R 包中实现分层收缩先验，特别是 NGG、NG 和岭回归先验。
• 通过自动调整提议分布的建议，实现自适应 MCMC 采样，以改善混合与收敛性。
• 通过与 stochvol 包集成，支持观测方程中的随机波动率建模。
• 为用户提供对先验超参数的完全控制，包括固定或学习全局、极点和尾部参数。

提出的方法

• 采用分层先验结构，其中时变系数被建模为条件正态分布，其方差从伽马混合分布中抽取，形成 NGG 先验。
• 采用三阶段分层先验：分量特定的方差服从伽马分布，而这些伽马分布本身又依赖于具有极点、尾部和全局参数的超先验。
• 对缺乏完整条件分布的参数使用自适应梅特罗波利斯-吉布斯采样，并根据接受率动态调整提议标准差。
• 通过 `mod_type` 参数支持三种模型类型：'triple'（NGG）、'double'（NG）和 'ridge'（固定方差正态先验）。
• 通过 stochvol 包集成随机波动率，允许状态依赖的观测误差方差，并在波动率参数上设置超先验。
• 通过 `hyperprior_param` 和 `sv_param` 列表暴露超参数，允许用户自定义先验分布或为特定推断目标固定值。

实验结果

研究问题

• RQ1 如何有效应用分层收缩先验于时变参数模型，以改善系数估计和模型稳定性？
• RQ2 NGG、NG 和岭回归等不同分层先验结构对 TVP 模型收缩行为和预测性能有何影响？
• RQ3 自适应梅特罗波利斯-吉布斯采样如何改善高维 TVP 模型中 MCMC 的收敛性和混合性？
• RQ4 在不同稀疏水平和时变动态下，shrinkTVP 包能否在合成数据中可靠地恢复真实系数？
• RQ5 该包在保持计算效率和准确推断的同时，能在多大程度上支持观测方程中的随机波动率？

主要发现

• NGG 先验将正态-柯西（horseshoe）和贝叶斯 Lasso 视为其极限情况，支持具有重尾和稀疏行为的灵活收缩。
• 将 NGG 先验的极点和尾部参数设为 0.5 可恢复正态-柯西先验，该先验以对无关系数的强收缩著称。
• 将极点参数固定为 1，尾部参数设为 0.5，可得到贝叶斯 Lasso，表明该包能够恢复标准收缩方法。
• 自适应梅特罗波利斯-吉布斯采样显著改善了 MCMC 混合性，尤其在关键超参数缺乏完整条件分布时。
• 当数据生成过程与假设的先验结构匹配时，该包在合成数据中成功恢复了真实系数。
• 用户可通过将极点参数固定在接近零的值，实现对无关时变系数的有针对性收缩，从而获得期望的稀疏程度。