[论文解读] Regression approaches for Approximate Bayesian Computation

Michaël G. B. Blum|arXiv (Cornell University)|Jul 5, 2017

Markov Chains and Monte Carlo Methods参考文献 17被引用 4

一句话总结

本文评估了近似贝叶斯计算（ABC）中的回归方法，表明线性、同方差回归校正能显著改善后验估计，通过缩小可信区间并使后验均值向更具生物学合理性的值移动——尤其在使用蝴蝶SNP数据进行混合推断时表现突出，而交叉验证有助于在拒绝法或非线性方法之外选择最优校正策略。

ABSTRACT

This book chapter introduces regression approaches and regression adjustment for Approximate Bayesian Computation (ABC). Regression adjustment adjusts parameter values after rejection sampling in order to account for the imperfect match between simulations and observations. Imperfect match between simulations and observations can be more pronounced when there are many summary statistics, a phenomenon coined as the curse of dimensionality. Because of this imperfect match, credibility intervals obtained with regression approaches can be inflated compared to true credibility intervals. The chapter presents the main concepts underlying regression adjustment. A theorem that compares theoretical properties of posterior distributions obtained with and without regression adjustment is presented. Last, a practical application of regression adjustment in population genetics shows that regression adjustment shrinks posterior distributions compared to rejection approaches, which is a solution to avoid inflated credibility intervals.

研究动机与目标

• 通过减少拒绝法ABC中常见的宽可信区间，改善近似贝叶斯计算（ABC）中的后验推断。
• 评估回归校正（尤其是线性和同方差）是否能提供优于标准拒绝ABC的后验估计。
• 评估高级回归技术（如核方法和分位数回归森林）在ABC中的性能。
• 指导ABC实践者使用交叉验证误差标准选择最优回归校正。
• 证明回归校正可显著改变后验估计，使其与既有的生物学发现一致。

提出的方法

• 使用交叉验证评估并基于给定摘要统计量估计参数的预测误差，选择回归校正方法。
• 应用线性回归校正，将模拟参数映射到摘要统计量，将后验均值估计为观测摘要统计量的线性函数。
• 采用核方法在再生核希尔伯特空间中执行非线性回归，利用核函数比较观测与模拟的摘要统计量。
• 利用分位数回归森林在不指定容忍度的情况下估计完整后验分布，通过随机森林权重推断后验分位数。
• 比较同方差与异方差回归校正，评估建模方差异质性是否能提升性能。
• 将回归校正框架应用于蝴蝶物种复合体的真实SNP数据，以估计混合比例。

实验结果

研究问题

• RQ1 与标准拒绝ABC相比，ABC中的回归校正是否能降低后验不确定性并提高估计准确性？
• RQ2 在交叉验证误差和后验性能方面，不同回归校正方法（线性、非线性、同方差、异方差）的表现如何比较？
• RQ3 在高维摘要统计量设置下，基于核的回归方法是否能优于线性回归？
• RQ4 回归校正使后验估计偏离拒绝法结果的程度有多大？这种偏离是否与外部生物学证据一致？
• RQ5 是否存在适用于ABC中回归校正选择的一般最佳实践，还是其选择取决于模型和数据结构？

主要发现

• 与拒绝ABC相比，线性同方差回归校正显著降低了交叉验证误差，表明预测性能得到提升。
• 混合比例 $p$ 的后验均值得分从拒绝法的 0.51 提升至线性同方差校正的 0.93，95% 可信区间为 (0.86, 0.98)，表明对 C. arcania 贡献的支持更强。
• 非线性同方差校正的后验均值为 0.84（95% C.I. = (0.69, 0.93)），确认其贡献显著但略低于线性校正。
• 回归校正不仅缩小了可信区间，还将后验估计向与已发表结果一致的值移动，增强了生物学合理性。
• 在高维摘要统计量设置下，核ABC优于回归校正，在相似精度下所需模拟次数更少。
• 分位数回归森林避免了容忍度设定，在共祖先模型模拟中表现出比回归校正更少的过度收缩，表明其在分布估计中更具稳健性。