[论文解读] Bayesian Model Selection for Beta Autoregressive Processes

Roberto Casarin, Luciana Dalla Valle+1 more|arXiv (Cornell University)|Jul 31, 2010

Bayesian Methods and Mixture Models参考文献 23被引用 7

一句话总结

本文提出了一种贝叶斯框架，用于估计和选择具有线性条件均值的Beta自回归（BAR）过程的阶数，采用可逆跳跃马尔可夫链蒙特卡洛（RJMCMC）算法联合估计参数和模型阶数。该方法通过有信息的先验分布引入参数约束，并在模拟和真实数据应用中均表现出准确的估计与模型选择性能。

ABSTRACT

We deal with Bayesian inference for Beta autoregressive processes. We restrict our attention to the class of conditionally linear processes. These processes are particularly suitable for forecasting purposes, but are difficult to estimate due to the constraints on the parameter space. We provide a full Bayesian approach to the estimation and include the parameter restrictions in the inference problem by a suitable specification of the prior distributions. Moreover in a Bayesian framework parameter estimation and model choice can be solved simultaneously. In particular we suggest a Markov-Chain Monte Carlo (MCMC) procedure based on a Metropolis-Hastings within Gibbs algorithm and solve the model selection problem following a reversible jump MCMC approach.

研究动机与目标

• 开发一种针对参数空间受约束的Beta自回归过程的完整贝叶斯方法，尤其适用于预测应用。
• 解决在BAR(k)模型中，于线性条件均值约束下进行参数估计的挑战，采用适当的先验分布。
• 通过可逆跳跃MCMC（RJMCMC）算法，同时实现参数估计与模型阶数选择。
• 评估不同先验分布对RJMCMC链混合性与收敛性的影响。
• 在模拟数据和真实世界比例时间序列（如失业率与产能利用率）上验证该方法。

提出的方法

• 采用条件线性BAR(k)过程，将参数约束在标准单纯形上，以确保在(0,1)区间上的有效支撑。
• 通过精心设定的先验分布，在吉布斯采样中结合Metropolis-Hastings步骤进行后验计算，以纳入约束条件。
• 应用可逆跳跃MCMC算法，探索不同阶数k的模型，允许在不同维度的参数空间之间转移。
• 基于倒数根的跳跃提议机制，在增加或减少模型阶数时重新参数化自回归系数。
• 通过Brooks等（2003b）和Ehlers & Brooks（2008）提出的方法校准提议分布，以提高接受率。
• 采用信息性先验——正态分布、修正截断正态分布和Beta型分布——以改善链的混合性并减少参数空间边界的数值问题。

实验结果

研究问题

• RQ1 在参数空间受约束的条件下，如何有效应用贝叶斯推断于具有线性条件均值的Beta自回归过程？
• RQ2 不同先验分布对RJMCMC算法在BAR模型选择中的混合性与收敛性有何影响？
• RQ3 在各种数据生成机制下，所提出的RJMCMC算法能否在有限样本中准确恢复真实模型阶数？
• RQ4 先验分布的选择如何影响自回归系数的后验估计及模型的预测性能？
• RQ5 所提出的方法在估计和选择BAR过程阶数方面，与经典或频率学派方法相比，其优越性在多大程度上得以体现？

主要发现

• 所提出的RJMCMC算法在多种模拟设置下，成功估计了BAR(k)过程的真实参数，涵盖不同的参数配置。
• 修正截断正态分布和Beta型先验显著改善了RJMCMC链的混合性能，尤其是在参数空间边界附近。
• 在模拟实验中，该算法能正确识别真实模型阶数，表现出对不同样本大小和数据生成过程的稳健性。
• 在小样本情况下观察到模型后验估计存在偏差和效率低下，表明模型选择性能对样本量较为敏感。
• 该方法成功应用于真实数据，包括美国和欧元区的失业率以及美国的产能利用率，显示出强大的实证相关性。
• 通过RJMCMC实现的参数与模型阶数联合估计，提供了模型空间与参数空间的完整后验分布，支持一致的不确定性量化。