[论文解读] Bayesian Estimation of Inverse Gaussian Distribution

B.N. Pandey, Pulastya Bandyopadhyay|arXiv (Cornell University)|Oct 16, 2012

Statistical Methods and Bayesian Inference参考文献 18被引用 13

一句话总结

本文采用马尔可夫链蒙特卡洛（MCMC）方法对逆高斯分布进行了全面的贝叶斯分析，重点研究了在信息先验下使用吉布斯抽样进行参数估计。结果表明，基于MCMC的推断（特别是最高后验密度（HPD）区间和后验众数）在偏态、非正态后验分布下优于经典方法，为尺度参数和形状参数提供了更优的点估计与区间估计。

ABSTRACT

In this paper we consider Bayesian estimation for the parameters of inverse Gaussian distribution. Our emphasis is on Markov Chain Monte Carlo methods. We provide complete implementation of the Gibbs sampler algorithm. Assuming an informative prior, Bayes estimates are computed using the output of the Gibbs sampler and also from Lindley's approximation method. Maximum Likelihood and Uniformly Minimum Variance Unbiased estimates are obtained as well. We also compute Highest Posterior Density credible intervals, exact confidence intervals as well as "percentile" and "percentile-t" bootstrap approximations to the exact intervals. A simulation study was conducted to compare the long-run performance of the various point and interval estimation methods considered. One real data illustration has been provided which brings out some salient features of sampling-based approach to inference.

研究动机与目标

• 开发一种完整且可实现的吉布斯抽样方法，用于逆高斯分布参数（μ, λ）的贝叶斯推断。
• 在信息先验下，比较基于MCMC的贝叶斯估计与经典方法（MLE、UMVUE）及林德利近似的性能。
• 评估不同区间估计技术的准确性和可靠性，包括HPD区间、精确置信区间和自助区间。
• 展示基于抽样的贝叶斯方法在处理逆高斯模型中常见的非正态、偏态后验分布方面的优势。

提出的方法

• 为μ和λ分别使用独立的伽玛先验，以在吉布斯抽样中实现共轭的全条件分布。
• 实现完整的吉布斯抽样算法，其全条件后验分布基于似然函数和先验密度推导得出。
• 应用林德利近似计算贝叶斯估计，无需MCMC，作为计算效率的基准。
• 采用参数自助法，使用“百分位数”和“百分位t”方法近似精确置信区间。
• 使用逆变换抽样法，结合归一化的后验密度，从μ的全条件分布中生成随机变量。
• 通过后验均值和后验众数两种方式评估后验汇总统计，特别强调众数在偏态分布中的优越性。

实验结果

研究问题

• RQ1 在偏度和均方误差方面，基于MCMC的贝叶斯估计（通过吉布斯抽样）与经典方法（MLE和UMVUE）相比如何？
• RQ2 当后验分布偏态时，HPD区间是否比等尾可信区间提供更准确的覆盖？
• RQ3 林德利近似在近似贝叶斯估计方面与MCMC结果相比有多准确？
• RQ4 在小到中等样本量下，使用信息先验是否能提高估计精度？
• RQ5 参数自助法中的区间估计（相比精确区间和HPD区间）相对表现如何？

主要发现

• 即使使用非信息先验，吉布斯抽样也能平稳且高效地收敛，无需收敛问题，可实现稳健的后验计算。
• 对于尺度参数μ，后验众数比后验均值更契合数据，尤其在后验偏态时表现更优。
• 由于后验偏态，HPD区间比等尾区间更适用于μ，具有更优的覆盖性能。
• 林德利近似得到的估计与MCMC结果相近，但在高度偏态或复杂后验形状下准确性较低。
• 参数自助法中的“百分位t”方法能较好地近似精确置信区间，优于标准百分位数法。
• 基于MCMC的推断能够揭示后验结构的细节，从而支持更明智的估计与区间估计方法选择。