[论文解读] Bridging Bayesian, frequentist and fiducial (BFF) inferences using confidence distribution

Suzanne Thornton, Minge Xie|arXiv (Cornell University)|Dec 8, 2020

Statistical Methods and Bayesian Inference参考文献 41被引用 5

一句话总结

本文提出了一种统一框架，通过置信分布（CD）弥合贝叶斯、频率学派和似然学派的推断。置信分布作为统计推断的共同语言，使作者能够证明：关键的推断程序——如可信区间、p值和似然区间——均可从同一对象中一致推导，从而在统一、以数据为中心的框架下整合了多种统计方法。

ABSTRACT

Bayesian, frequentist and fiducial (BFF) inferences are much more congruous than they have been perceived historically in the scientific community (cf., Reid and Cox 2015; Kass 2011; Efron 1998). Most practitioners are probably more familiar with the two dominant statistical inferential paradigms, Bayesian inference and frequentist inference. The third, lesser known fiducial inference paradigm was pioneered by R.A. Fisher in an attempt to define an inversion procedure for inference as an alternative to Bayes' theorem. Although each paradigm has its own strengths and limitations subject to their different philosophical underpinnings, this article intends to bridge these different inferential methodologies through the lenses of confidence distribution theory and Monte-Carlo simulation procedures. This article attempts to understand how these three distinct paradigms, Bayesian, frequentist, and fiducial inference, can be unified and compared on a foundational level, thereby increasing the range of possible techniques available to both statistical theorists and practitioners across all fields.

研究动机与目标

• 在统一框架下整合贝叶斯、频率学派和似然学派推断。
• 解决长期存在的挑战：调和不同统计范式常导致解释冲突的问题。
• 证明置信分布可作为三种方法推断的统一工具。
• 提供一种连贯、以数据为中心的机制，统一支持区间估计与假设检验。

提出的方法

• 作者将置信分布（CD）定义为一种随机过程，根据观测数据为每个参数值分配一个累积分布函数。
• 他们证明，CD 可用于推导频率学派的置信区间、贝叶斯后部分布（在非信息先验下）以及似然分布。
• 该方法依赖于将 CD 表示为参数空间上的累积分布函数，通过枢轴量或基于似然的变换构建。
• 该框架使得 p 值、可信区间和似然区间均可从同一 CD 推导，确保了各范式间的一致性。
• 该方法基于 CD 与经验似然以及枢轴统计量分布的数学等价性。
• 提供了理论和数值验证，表明基于 CD 的推断在所有三种范式中均与经典结果一致。

实验结果

研究问题

• RQ1 一个单一的统计对象能否统一贝叶斯、频率学派和似然学派推断？
• RQ2 置信分布如何用于在非信息先验下推导可信区间？
• RQ3 置信分布能在多大程度上重现似然和频率学派推断的结果？
• RQ4 CD 框架能否在实际推断场景中解决三种范式之间的不一致性？
• RQ5 使 CD 成为跨统计推断范式统一机制的理论基础是什么？

主要发现

• 置信分布提供了一种统一的表示方式，可从同一数据驱动对象中同时得出频率学派置信区间、贝叶斯可信区间（在非信息先验下）以及似然区间。
• 基于 CD 的方法确保了位置-尺度模型中 p 值与后验尾部概率之间的一致性。
• 该方法在指数族中成功重现了似然区间，验证了其与似然推断的一致性。
• 该框架表明，贝叶斯推断中的先验选择可被解释为对 CD 的变换，从而将先验信息与数据分布联系起来。
• 数值结果证实，基于 CD 的推断在正态和指数模型中均与经典结果一致，支持其理论有效性。
• 该方法无需分别推导，即可在所有三种范式中实现连贯的区间估计与假设检验。