[论文解读] Optimal Robustness Results for Some Bayesian Procedures and the Relationship to Prior-Data Conflict

Luai Al‐Labadi, Michael Evans|arXiv (Cornell University)|Apr 27, 2015

Statistical Methods and Bayesian Inference参考文献 14被引用 10

一句话总结

本文建立了贝叶斯统计中相对信念推断的最优鲁棒性特性，表明当不存在先验-数据冲突时，这些推断具有鲁棒性。它证明了先验-数据冲突会破坏鲁棒性，并提供了定量度量方法以检测此类冲突，强调了在推断前评估冲突的必要性。

ABSTRACT

The robustness to the prior of Bayesian inference procedures based on a measure of statistical evidence are considered. These inferences are shown to have optimal properties with respect to robustness. Furthermore, a connection between robustness and prior-data conflict is established. In particular, the inferences are shown to be effectively robust when the choice of prior does not lead to prior-data conflict. When there is prior-data conflict, however, robustness may fail to hold.

研究动机与目标

• 在ε-污染先验的边缘先验变化下，建立相对信念推断的最优鲁棒性。
• 澄清相对信念比结果解释中的模糊性。
• 量化推断对边缘先验和条件先验的敏感性。
• 阐明先验-数据冲突与贝叶斯推断中鲁棒性失效之间的联系。
• 由于在无先验-数据冲突时相对信念推断具有鲁棒性特性，支持其作为估计和假设评估的优选方法。

提出的方法

• 使用相对信念比（即后验密度与先验密度之比）来度量参数值的统计证据。
• 应用Savage-Dickey比例恒等式，将相对信念比表示为先验和条件预测密度的形式。
• 在ε-污染先验下推导最优鲁棒性，推广了Wasserman（1989）及其他研究者的先前结果。
• 基于不同先验下预测密度的比值，引入定量敏感性度量。
• 使用尾部概率和基于比值的诊断方法，在正态模型中检测先验-数据冲突。
• 通过模拟和数值例子说明，先验-数据冲突如何导致相对信念比缺乏鲁棒性和极端敏感性。

实验结果

研究问题

• RQ1 在何种条件下，相对信念推断对先验选择具有最优鲁棒性？
• RQ2 先验-数据冲突如何与贝叶斯推断中鲁棒性的失效相关联？
• RQ3 哪些定量度量可用于检测先验-数据冲突以及推断对先验假设的敏感性？
• RQ4 当存在先验-数据冲突时，相对信念比的行为如何变化？
• RQ5 当先验-数据冲突导致相对信念比出现极大值时，该比值是否仍具有有意义的解释？

主要发现

• 在ε-污染先验的边缘先验变化下，相对信念推断具有最优鲁棒性，当不存在先验-数据冲突时，鲁棒性得到保证。
• 当存在先验-数据冲突时（例如，真实参数位于先验的尾部），鲁棒性失效，表现为相对信念比的极端敏感性。
• 当数据与σ²的先验冲突但不与μ冲突时，比值 $ m_{Q,T}(T(x)|V(T(x)))/m_T(T(x)|V(T(x))) $ 降至0.87（μ₁ = -2，τ₁² = 1），表明存在冲突且缺乏鲁棒性。
• 当μ存在冲突但σ²无冲突时，比值达到55,478,630（μ₁ = 2，τ₁² = 1），表明严重缺乏鲁棒性。
• 在冲突情形下，积分 $ \int_{0}^\nu RB((\bar{x},\sigma^{2})|x) \Pi_1(d\sigma^{-2}) = 8,046,933,962 $ 表明最坏情况行为和极端敏感性。
• 在连续模型中，最大似然估计处的相对信念比发散至无穷大，但冲突情形下出现的大数值信号表明缺乏鲁棒性，而非高证据强度。