[论文解读] Model Misspecification in ABC: Consequences and Diagnostics

David T. Frazier, Christian P. Robert+1 more|arXiv (Cornell University)|Aug 7, 2017

Markov Chains and Monte Carlo Methods参考文献 20被引用 16

一句话总结

本文研究了近似贝叶斯计算（ABC）中模型误设的后果，表明在模型误设下，不同的ABC变体——接受/拒绝ABC与回归校正ABC——可能将后验质量集中在不同的伪真参数上。本文提出基于不同ABC版本之间差异的诊断方法，以检测模型误设，表明尽管存在蒙特卡洛变异性，此类差异仍具系统性且可检测。

ABSTRACT

We analyze the behavior of approximate Bayesian computation (ABC) when the model generating the simulated data differs from the actual data generating process; i.e., when the data simulator in ABC is misspecified. We demonstrate both theoretically and in simple, but practically relevant, examples that when the model is misspecified different versions of ABC can yield substantially different results. Our theoretical results demonstrate that even though the model is misspecified, under regularity conditions, the accept/reject ABC approach concentrates posterior mass on an appropriately defined pseudo-true parameter value. However, under model misspecification the ABC posterior does not yield credible sets with valid frequentist coverage and has non-standard asymptotic behavior. In addition, we examine the theoretical behavior of the popular local regression adjustment to ABC under model misspecification and demonstrate that this approach concentrates posterior mass on a completely different pseudo-true value than accept/reject ABC. Using our theoretical results, we suggest two approaches to diagnose model misspecification in ABC. All theoretical results and diagnostics are illustrated in a simple running example.

研究动机与目标

• 分析在数据模拟器与真实数据生成过程不匹配时，ABC在理论上的行为表现。
• 研究在模型误设下，不同ABC实现方式——接受/拒绝ABC与局部回归校正ABC——的行为，揭示其渐近集中行为的差异。
• 通过利用不同ABC变体之间的系统性差异，开发实用的模型误设检测诊断方法。
• 证明来自误设ABC后验的可信区间不具有有效的频率覆盖性质，并表现出非标准的渐近行为。
• 评估后处理技术（如回归校正）在模型误设下的稳健性，并提出替代方案。

提出的方法

• 对接受/拒绝ABC在模型误设下的理论分析，表明在正则性和可识别性条件下，后验会集中在伪真参数上。
• 推导回归校正ABC的渐近行为，证明在模型误设下，其会集中在与接受/拒绝ABC不同的伪真值上。
• 提出一种基于比较不同ABC变体后验分布的诊断程序，使用源自参数估计差异的检验统计量。
• 利用蒙特卡洛模拟验证理论发现，比较在不同误设程度下ABC输出差异的抽样分布。
• 将诊断方法应用于已知误设的正态位置尺度模型，通过摘要统计量和容差比较进行分析。
• 通过从ABC输出生成的参考表校准诊断阈值，以区分真实的模型误设与蒙特卡洛噪声。

实验结果

研究问题

• RQ1 模型误设如何影响ABC后验的渐近行为与集中特性？
• RQ2 在模型误设下，不同ABC实现方式——接受/拒绝ABC与回归校正ABC——是否收敛到相同的伪真参数？
• RQ3 是否可以系统性地利用不同ABC变体之间的差异来检测模型误设？
• RQ4 来自误设ABC后验的可信区间具有怎样的频率覆盖性质？
• RQ5 在模型误设下，容忍度序列的选择如何影响ABC性能，与正确设定情形相比有何差异？

主要发现

• 在模型误设下，接受/拒绝ABC会将后验质量集中在模型类中与真实数据生成过程最近分布对应的伪真参数值上。
• 回归校正ABC会集中在与接受/拒绝ABC不同的伪真参数上，表明后处理可能加剧误设的影响。
• 来自误设ABC后验的可信区间即使在渐近情况下也不具有有效的频率覆盖性质。
• 在模型误设下，ABC的渐近行为是非标准的，偏离了典型的后验集中模式。
• 诊断程序具有高统计功效：在正态例子中，无论使用何种参数构造检验统计量，当 $σ^2 = 2$ 和 $3$ 时，检测率可达95–100%。
• 通过 $\sqrt{n}\|\hat{h}-\tilde{h}\|$ 衡量的ABC变体间差异，在误设下系统性地大于正确设定下的差异，从而实现可靠检测。