[論文レビュー] pyABC: Efficient and robust easy-to-use approximate Bayesian computation

Yannik Schälte, Emmanuel Klinger+2 more|arXiv (Cornell University)|Mar 24, 2022

Markov Chains and Monte Carlo Methods被引用数 4

ひとこと要約

本論文は、近似的ベイズ計算（ABC）のための強化されたオープンソースPythonフレームワークであるpyABC v0.12を提示する。このフレームワークは、ロバストで効率的かつ自動化された尤度フリー推論を実現するための高度なアルゴリズムを統合している。適応的距離スケーリング、外れ値に対するロバスト性、回帰を用いた情報性の高い要約統計量、最適輸送距離、しきい値最適化を導入することで、多様なモデルやデータタイプにおいて、最小限のユーザーツーリングで後方分布の近似を向上させている。

ABSTRACT

The Python package pyABC provides a framework for approximate Bayesian computation (ABC), a likelihood-free parameter inference method popular in many research areas. At its core, it implements a sequential Monte-Carlo (SMC) scheme, with various algorithms to adapt to the problem structure and automatically tune hyperparameters. To scale to computationally expensive problems, it provides efficient parallelization strategies for multi-core and distributed systems. The package is highly modular and designed to be easily usable. In this major update to pyABC, we implement several advanced algorithms that facilitate efficient and robust inference on a wide range of data and model types. In particular, we implement algorithms to account for noise, to adaptively scale-normalize distance metrics, to robustly handle data outliers, to elucidate informative data points via regression models, to circumvent summary statistics via optimal transport based distances, and to avoid local optima in acceptance threshold sequences by predicting acceptance rate curves. Further, we provide, besides previously existing support of Python and R, interfaces in particular to the Julia language, the COPASI simulator, and the PEtab standard.

研究の動機と目的

• 尤度フリーなパrameter推定を、複雑なモデルに対して使いやすく、スケーラブルでロバストなABCフレームワークを構築すること。
• 遷移カーネル、集団サイズ、受容しきい値のための自己調整アルゴリズムを実装することで、手動によるハイパーパramータチューニングを低減すること。
• 適応的距離メトリクスと情報性の高い要約統計量を用いることで、ノイズが多い、外れ値に影響を受ける、または高次元のデータにおいて、推論の正確性と効率性を向上させること。
• Julia、R、COPASI、およびPEtab標準との統合を通じて、異種のモデリング環境をサポートすること。
• マルチコアおよび分散システムにおける動的並列化を活用して、スケーラブルな推論を可能にすること。

提案手法

• 収束性を向上させるために、適応的遷移カーネルと自己調整された集団サイズを備えた逐次モンテカルロ（ABC-SMC）スキームを実装する。
• 繰り返し再重み付けを用いた適応的距離メトリクススケーリングを導入し、スケールが異なるデータポイントに対応する。
• Prangle（2017）の修正版を用いて外れ値の検出と抑制を実施し、測定誤差の影響を低減する。
• 逆回帰モデル（例：線形回帰、ニューラルネットワーク、ガウス過程）を用いて、情報性の高い、データ駆動型の要約統計量を生成する。
• 要約統計量の必要性を回避し、データ構造に対するロバスト性を向上させるために、最適輸送に基づく距離を採用する。
• 受容率曲線の予測により、しきい値シーケンスにおける局所最適解を回避し、より安定的で効率的なSMCの適応を可能にする。

実験結果

リサーチクエスチョン

• RQ1 測定誤差を伴う現実世界のデータにおいて、手動による介入なしにABC推論をノイズや外れ値に対してよりロバストにする方法は何か？
• RQ2 異種のデータスケールを有するモデルにおいて、適応的距離スケーリングは後方分布の近似を改善できるか？
• RQ3 回帰ベースの要約統計量は、ABCにおける推論の効率性と正確性をどの程度向上させることができるか？
• RQ4 最適輸送に基づく距離は、要約統計量を置き換えつつも、推論品質を維持できるか？
• RQ5 受容率曲線の予測モデリングにより、ABC-SMCにおける非最適なしきい値シーケンスを回避できるか？

主な発見

• 適応的距離スケーリングと外れ値に対するロバスト性の統合により、測定誤差を伴う実世界のデータにおいて、後方分布推定が顕著に向上した。
• 回帰ベースの要約統計量は、高次の後方分布近似を実現し、ユーザが定義する要約統計量への依存度を低減した。
• 最適輸送に基づく距離は、要約統計量なしで効果的な推論を可能にし、特に複雑または高次元のデータに対して有益であった。
• 受容率曲線の予測モデリングにより、しきい値シーケンスにおける局所最適解が回避され、収束の安定性が向上した。
• pyABCにおける動的並列化戦略により、マルチコアおよび分散コンピューティング環境での効率的なスケーリングが実現された。
• このフレームワークは、Julia、R、COPASI、およびPEtab標準とのシームレスな相互運用性をサポートしており、システム生物学および計算モデリングワークフローにおける使いやすさを向上させた。