[论文解读] Informative Bayesian inference for the skew-normal distribution

Antonio Canale, Bruno Scarpa|arXiv (Cornell University)|May 14, 2013

Statistical Distribution Estimation and Applications参考文献 20被引用 5

一句话总结

本文為偏正態分布的形状参数提出了两种信息性贝叶斯先验，使得全条件后验分布具有闭式解，从而通过吉布斯抽样显著提升了MCMC的效率。该方法在小样本情况下表现更优，相较于非信息性先验，能获得更窄的形状参数可信区间，尤其在纳入关于正偏度的先验信息时效果更明显。

ABSTRACT

Motivated by the analysis of the distribution of university grades, which is usually asymmetric, we discuss two informative priors for the shape parameter of the skew-normal distribution, showing that they lead to closed-form full-conditional posterior distributions, particularly useful in MCMC computation. Gibbs sampling algorithms are discussed for the joint vector of parameters, given independent prior distributions for the location and scale parameters. Simulation studies are performed to assess the performance of Gibbs samplers and to compare the choice of informative priors against a non-informative one. The method is used to analyze the grades of the basic statistics examination of the first-year undergraduate students at the School of Economics, University of Padua, Italy.

研究动机与目标

• 为解决偏正态模型中形状参数缺乏信息性先验分布的问题，特别是在存在关于偏度的先验知识时。
• 开发共轭先验，使得全条件后验分布具有闭式解，从而在贝叶斯推断中实现高效的MCMC计算。
• 通过模拟研究与真实数据分析，评估信息性先验与非信息性先验的性能差异。
• 将该方法应用于真实大学考试成绩数据，其中来自分班测试的相关性提供了关于正偏度的先验知识。
• 证明在小样本设定下，信息性先验能带来更精确的后验估计，特别是对形状参数而言。

提出的方法

• 为形状参数 α 提出两种信息性先验：π₁ 基于非中心 t 分布，π₂ 基于伽马分布，两者均设计用于编码对正偏度的先验信念。
• 利用截断二元正态分布对偏正态分布进行随机表示，借助近期在多变量截断正态分布抽样方面的进展，实现高效的吉布斯抽样。
• 对联合参数向量 (ξ, ω, α) 实施吉布斯抽样，其中位置参数 (ξ) 和尺度参数 (ω) 使用独立共轭先验，形状参数 (α) 使用信息性先验。
• 对 (ξ, ω) 使用正态-逆伽马先验，对 α 使用基于非中心 t 或伽马分布的先验，确保全条件后验分布具有闭式解。
• 通过其解析可处理性，将统一偏正态（SUN）族作为后验分布，以支持MCMC计算。
• 通过模拟研究与帕多瓦大学一年级经济系学生统计考试成绩的真实数据分析验证该方法。

实验结果

研究问题

• RQ1 如何构建偏正态分布形状参数的信息性先验，以反映对正偏度的先验知识？
• RQ2 这些先验是否能导致全条件后验分布的闭式解，从而提升贝叶斯推断中MCMC的效率？
• RQ3 在小样本情况下，信息性先验与非信息性先验在后验精度和可信区间宽度方面有何差异？
• RQ4 使用真实先验数据（如往年考试成绩）与基于主观信念的偏度假设，对后验推断有何影响？
• RQ5 所提出的吉布斯抽样算法在模拟数据和真实世界数据设定下是否能实现良好的混合与收敛？

主要发现

• 使用从往年考试数据中获取的信息性先验 π₁（均值 22.68，方差 13.72，偏度 0.35），后验均值估计为 ξ = 18.495，ω = 4.176，α = 2.508，对应的 95% 可信区间分别为 (17.688, 19.426)、(3.125, 5.728) 和 (1.224, 4.042)。
• 另一种信息性先验 π₂ 基于对正偏度的信念（ψ₀ = 7，λ₀ = 20），得到后验均值为 ξ = 18.817，ω = 4.163，α = 2.361，可信区间更宽：(17.886, 20.229)、(3.094, 5.767) 和 (0.693, 4.556)。
• 尽管先验假设不同，两种后验分布的众数均接近 21，且偏度相似，表明对先验选择具有稳健性。
• π₁ 的后验可信区间比 π₂ 更窄，表明基于数据的先验获取（π₁）比基于信念的先验获取（π₂）提供了更精确的推断。
• 模拟研究证实吉布斯抽样收敛迅速，混合性能优秀，轨迹图未显示混合不良或收敛缓慢的迹象。
• 贝叶斯方法成功克服了经典似然推断的局限性，特别是 α 的轮廓似然平坦且不可识别的问题，通过使用信息性先验，获得了更窄且更可靠的可信区间。