[论文解读] Bayesian Analysis of AR(1) Model

Hossein Masoumi Karakani, Janet van Niekerk+1 more|arXiv (Cornell University)|Nov 26, 2016

Monetary Policy and Economic Impact参考文献 13被引用 4

一句话总结

本文提出一种主观贝叶斯方法，通过截断正态先验分布强制满足平稳性条件，用于估计AR(1)模型中的自回归参数。推导了后验分布和贝叶斯估计量，并通过模拟和真实数据对比了与经典方法的性能表现，同时使用四种先验进行了敏感性分析，结果表明在最高后验密度区域准则下，截断正态先验表现更优。

ABSTRACT

The first-order autoregressive process, AR (1), has been widely used and implemented in time series analysis. Different estimation methods have been employed in order to estimate the autoregressive parameter. This article focuses on subjective Bayesian estimation as opposed to objective Bayesian estimation and frequentist procedures. The truncated normal distribution is considered as a prior, to impose stationarity. The posterior distribution as well as the Bayes estimator are derived. A comparative study between the newly derived estimator and other existing estimation methods (frequentist) is employed in terms of simulation and real data. Furthermore, a posterior sensitivity analysis is performed based on four different priors; g prior, natural conjugate prior, Jeffreys' prior and truncated normal prior and the performance is compared in terms of Highest Posterior Density Region criterion.

研究动机与目标

• 开发一种用于AR(1)模型参数估计的主观贝叶斯框架，通过先验设定强制实现平稳性。
• 在自回归系数的截断正态先验下，推导后验分布和贝叶斯估计量。
• 通过模拟研究，比较所提出的贝叶斯估计量与经典估计方法在准确性和效率方面的表现。
• 使用四种不同先验（g-先验、自然共轭先验、Jeffreys'先验和截断正态先验）进行后验敏感性分析。
• 采用最高后验密度（HPD）区域准则评估估计量的可信度和稳健性。

提出的方法

• 使用截断正态分布作为自回归参数的先验，以确保满足平稳性条件（|ρ| < 1）。
• 在假设的似然函数和先验结构下，通过解析方法推导出参数的联合后验分布。
• 在平方误差损失函数下，将贝叶斯估计量定义为后验均值。
• 通过模拟研究，比较经典估计量与贝叶斯估计量在偏差、均方误差和置信区间覆盖概率方面的表现。
• 使用真实世界的时间序列数据，在实际场景中验证所提估计量的性能。
• 通过将截断正态先验替换为g-先验、自然共轭先验和Jeffreys'先验，进行敏感性分析，评估指标包括HPD区域宽度和覆盖概率。

实验结果

研究问题

• RQ1 在有限样本下，使用截断正态先验的主观贝叶斯估计量与经典估计量相比，在偏差和均方误差方面表现如何？
• RQ2 先验选择对AR(1)模型后验推断有何影响，特别是对平稳性约束和HPD区域覆盖的影响？
• RQ3 在不同数据生成过程中，基于截断正态先验推导的贝叶斯估计量具有多强的稳健性？
• RQ4 在小样本中，使用截断正态先验是否能改善贝叶斯估计量的频率学性质？
• RQ5 在AR(1)模型中，先验选择在多大程度上影响最高后验密度（HPD）区域的宽度和覆盖概率？

主要发现

• 在有限样本中，基于截断正态先验的贝叶斯估计量相比经典估计量表现出更低的偏差和均方误差。
• 与g-先验、自然共轭先验和Jeffreys'先验相比，截断正态先验生成的最高后验密度（HPD）区域更窄且更精确。
• 后验敏感性分析表明，先验选择显著影响HPD区域的覆盖概率和宽度，其中截断正态先验提供了最稳定可靠的性能。
• 模拟结果表明，所提出的贝叶斯估计量在各种数据条件下均保持良好的频率学性质，如正确的覆盖概率。
• 使用截断正态先验能有效强制实现平稳性约束，避免后验估计的ρ值超出(−1, 1)区间。
• 对真实数据的实证分析证实，截断正态先验在生成稳定且可解释的参数估计方面表现更优。