[论文解读] A simple two-sample Bayesian t-test for hypothesis testing

Min Wang, Guangying Liu|arXiv (Cornell University)|Sep 8, 2015

Advanced Statistical Methods and Models参考文献 10被引用 8

一句话总结

本文提出了一种仅依赖 t 统计量的两样本 t 检验的闭式贝叶斯因子，使得使用计算器或电子表格即可轻松计算。通过在先验方差上引入超先验，该方法解决了现有先验依赖型贝叶斯因子的敏感性问题，得到稳健且可解释的结果，适用于在导论性统计学课程中讲授贝叶斯方法。

ABSTRACT

In this paper, we propose an explicit closed-form Bayes factor for the problem of two-sample hypothesis testing. The proposed approach can be regarded as a Bayesian version of the pooled-variance t-statistic and has various appealing properties in practical applications. It relies on data only through the t-statistic and can thus be calculated by using an Excel spreadsheet or a pocket calculator. It avoids several undesirable paradoxes, which may be encountered by the previous Bayesian approach of Gonen et al. (2005). Specifically, the proposed approach can be easily taught in an introductory statistics course with an emphasis on Bayesian thinking. Simulated and real data examples are provided for illustrative purposes.

研究动机与目标

• 开发一种适用于两个独立样本的贝叶斯假设检验方法，使其在导论性统计学课程中简单易教。
• 解决现有方法中贝叶斯因子对超参数选择的敏感性问题，例如 Gönen 等人（2005）提出的方法。
• 通过在先验方差参数 σ²ₐ 上指定超先验，消除巴特莱特悖论和信息悖论等悖论。
• 确保贝叶斯因子仅依赖于经典 t 统计量，从而可使用基本工具（如 Excel 或袖珍计算器）进行计算。
• 通过一种实用且透明的方法，促进对频率学派与贝叶斯推断之间关系的直观理解。

提出的方法

• 基于合并方差 t 统计量提出贝叶斯因子，采用具有超先验的分层先验结构，对先验方差参数 σ²ₐ 进行建模。
• 采用皮尔逊类型 VI 分布作为 σ²ₐ 的超先验，从而导出边际似然比的闭式表达式。
• 将最终的贝叶斯因子表示为 t 统计量、自由度以及超先验参数 a 和 b 的函数，其中 b 由自由度确定。
• 通过变量变换和贝塔函数恒等式简化边际似然的积分表达式，得到可计算的闭式解。
• 通过仅依赖 t 统计量、避免重新处理完整数据，确保方法在计算上保持简单。
• 通过在不同超先验取值下进行敏感性分析，证明方法具有稳健性，决策结果一致。

实验结果

研究问题

• RQ1 如何使贝叶斯两样本 t 检验对先验超参数的选择具有鲁棒性？
• RQ2 能否推导出仅依赖于经典 t 统计量且适用于导论性教学的闭式贝叶斯因子？
• RQ3 在先验方差上引入超先验是否能消除巴特莱特悖论和信息悖论等悖论？
• RQ4 与 Gönen 等人（2005）提出的固定超参数方法相比，该方法在敏感性和决策一致性方面的表现如何？
• RQ5 该方法在多大程度上保持了频率学派与贝叶斯推断之间直观的联系？

主要发现

• 所提出的方法得到一个仅依赖于 t 统计量和自由度的闭式贝叶斯因子，可使用基本计算器或电子表格进行计算。
• 贝叶斯因子对超先验参数选择具有鲁棒性：当 a ∈ (−1, −1/2] 时，H₁ 的后验概率保持稳定，且与双侧 p 值一致。
• 当 a = −1/2 时，H₁ 的后验概率为 0.377，贝叶斯因子为 0.606，表明对 H₀ 有中等程度的证据支持。
• 相比之下，Gönen 等人（2005）提出的固定 σ²ₐ 方法表现出高度敏感性：当 σ²ₐ = 1/10 时，H₁ 的后验概率为 0.509，而当 σ²ₐ = 5 时，下降至 0.243，导致矛盾结论。
• 通过在先验方差上积分，该方法避免了信息悖论和巴特莱特悖论，降低了对任意超参数选择的依赖。
• 该方法适用于教学，因为它允许学生手动计算贝叶斯因子，并理解频率学派 t 检验与贝叶斯推断之间的联系。