[论文解读] Measuring and Controlling Bias for Some Bayesian Inferences and the Relation to Frequentist Criteria

Michael Evans, Yang Guo|arXiv (Cornell University)|Mar 5, 2019

Bayesian Modeling and Causal Inference参考文献 8被引用 5

一句话总结

本文提出了一种基于证据原则的系统方法，用于测量和控制贝叶斯推断中的偏差，通过相对似然比定义了反对偏差和赞成偏差。该方法建立了贝叶斯证据与频率学派性质之间的正式联系，表明通过数据收集而非先验选择来控制偏差，可确保推断的可靠性，从而解决了贝叶斯与频率学派框架之间的张力。

ABSTRACT

A common concern with Bayesian methodology in scientific contexts is that inferences can be heavily influenced by subjective biases. As presented here, there are two types of bias for some quantity of interest: bias against and bias in favor. Based upon the principle of evidence, it is shown how to measure and control these biases for both hypothesis assessment and estimation problems. Optimality results are established for the principle of evidence as the basis of the approach to these problems. A close relationship is established between measuring bias in Bayesian inferences and frequentist properties that hold for any proper prior. This leads to a possible resolution to an apparent conflict between these approaches to statistical reasoning. Frequentism is seen as establishing a figure of merit for a statistical study, while Bayesianism plays the key role in determining inferences based upon statistical evidence.

研究动机与目标

• 为回应贝叶斯推断易受主观先验影响的常见批评，正式量化并控制偏差。
• 将证据原则的应用从假设检验扩展至估计与预测问题。
• 证明频率学派在研究设计中起关键作用，通过确保低偏差来实现，而贝叶斯推断则依赖于观测到的证据。
• 通过展示两种方法在统计推理中的互补作用，解决贝叶斯与频率学派方法之间的表面对立。

提出的方法

• 采用证据原则：当参数值的后验概率超过其先验概率时，即构成对该值的证据。
• 利用相对似然比（后验与先验优势比）定义反对偏差和赞成偏差，以量化证据强度。
• 通过从条件先验预测分布中进行蒙特卡洛抽样，估计在各种数据生成机制下的偏差水平。
• 将该方法应用于位置模型和回归模型，通过模拟充分统计量和预测分布来计算偏差。
• 推导出在共轭先验下未来观测预测分布的闭式表达式，以实现高效的偏差计算。
• 建立该方法的最优性结果，表明其在任意恰当先验下均满足理想的频率学派性质。

实验结果

研究问题

• RQ1 如何在先验具有主观性时，正式度量和控制贝叶斯推断中的偏差？
• RQ2 贝叶斯证据（通过相对似然比衡量）与频率学派性质（如覆盖概率和错误率）之间有何关系？
• RQ3 证据原则能否有意义地扩展至假设检验之外的估计与预测问题？
• RQ4 杰弗里斯-林德利悖论为何出现，偏差度量如何帮助解决该问题？
• RQ5 如何在不损害其证据基础的前提下，使用频率学派标准验证贝叶斯推断？

主要发现

• 反对偏差和赞成偏差通过相对似然比正式定义并度量，为证据质量提供了定量评估。
• 杰弗里斯-林德利悖论被解释为使用扩散先验时赞成偏差过高的结果，而非贝叶斯推理本身的缺陷。
• 只有当显著性水平随样本量增加或先验扩散性增强而降低时，校准良好的p值才满足证据原则。
• 频率学派性质——如覆盖概率和错误率——对任意恰当先验均成立，建立了频率学派设计与贝叶斯推断之间的强关联。
• 偏差控制通过数据收集实现，而非先验调整，从而保护了主观先验获取的完整性。
• 该框架统一了贝叶斯与频率学派推理：频率学派主导研究设计与偏差控制，而贝叶斯推断则基于观测数据中的证据。