[论文解读] pyABC: Efficient and robust easy-to-use approximate Bayesian computation

Yannik Schälte, Emmanuel Klinger+2 more|arXiv (Cornell University)|Mar 24, 2022

Markov Chains and Monte Carlo Methods被引用 4

一句话总结

本论文介绍了 pyABC v0.12，这是一个增强版的开源 Python 框架，用于近似贝叶斯计算（ABC），集成了先进的算法，实现稳健、高效且自动化的无似然推断。它引入了自适应距离缩放、异常值鲁棒性、基于回归的信息性摘要统计量、最优传输距离以及阈值优化，以在不同模型和数据类型下实现更优的后验近似，同时最大限度减少用户调参。

ABSTRACT

The Python package pyABC provides a framework for approximate Bayesian computation (ABC), a likelihood-free parameter inference method popular in many research areas. At its core, it implements a sequential Monte-Carlo (SMC) scheme, with various algorithms to adapt to the problem structure and automatically tune hyperparameters. To scale to computationally expensive problems, it provides efficient parallelization strategies for multi-core and distributed systems. The package is highly modular and designed to be easily usable. In this major update to pyABC, we implement several advanced algorithms that facilitate efficient and robust inference on a wide range of data and model types. In particular, we implement algorithms to account for noise, to adaptively scale-normalize distance metrics, to robustly handle data outliers, to elucidate informative data points via regression models, to circumvent summary statistics via optimal transport based distances, and to avoid local optima in acceptance threshold sequences by predicting acceptance rate curves. Further, we provide, besides previously existing support of Python and R, interfaces in particular to the Julia language, the COPASI simulator, and the PEtab standard.

研究动机与目标

• 开发一个用户友好、可扩展且稳健的 ABC 框架，用于复杂模型中的无似然参数推断。
• 通过实现自适应的转移核、种群规模和接受阈值算法，减少手动超参数调优。
• 通过自适应距离度量和信息性摘要统计量，提升在噪声数据、受异常值影响或高维数据上的推断准确性和效率。
• 通过与 Julia、R、COPASI 和 PEtab 标准的集成，支持异构建模环境。
• 通过在多核和分布式系统上的动态并行化，实现可扩展的推断。

提出的方法

• 采用自适应转移核和自适应种群规模的序列蒙特卡洛（ABC-SMC）方案，以提升收敛性。
• 通过迭代加权方法实现距离度量的自适应缩放，以处理具有不同尺度的数据点。
• 采用 Prangle（2017）的改进版本进行鲁棒的异常值检测与抑制，以减轻测量误差的影响。
• 使用逆回归模型（如线性模型、神经网络、高斯过程）生成信息性、数据驱动的摘要统计量。
• 采用基于最优传输的距离度量，避免对人工摘要统计量的依赖，并提升对数据结构的鲁棒性。
• 预测接受率曲线，以避免在阈值序列中陷入局部最优，从而实现更稳定高效的 SMC 自适应。

实验结果

研究问题

• RQ1 如何在无需人工干预的情况下，使 ABC 推断对数据噪声和异常值更具鲁棒性？
• RQ2 自适应距离缩放是否能改善具有异质数据尺度的模型中的后验近似？
• RQ3 基于回归的摘要统计量在多大程度上能提升 ABC 中的推断效率和准确性？
• RQ4 最优传输距离在多大程度上可以替代摘要统计量，同时保持推断质量？
• RQ5 对接受率曲线的预测建模是否能防止 ABC-SMC 中次优的阈值序列？

主要发现

• 自适应距离缩放与异常值鲁棒性的集成显著提升了在含测量误差的真实世界数据上的后验估计性能。
• 基于回归的摘要统计量可实现更高阶的后验近似，并降低对用户定义摘要统计量的依赖。
• 基于最优传输的距离度量可在无需摘要统计量的情况下实现有效推断，尤其适用于复杂或高维数据。
• 对接受率曲线的预测建模可防止阈值序列中的局部最优，提升收敛稳定性。
• pyABC 中的动态并行化策略可在多核和分布式计算环境中实现高效的可扩展性。
• 该框架支持与 Julia、R、COPASI 和 PEtab 标准的无缝互操作，显著提升了在系统生物学和计算建模工作流中的可用性。