[論文レビュー] A comparison of emulation methods for Approximate Bayesian Computation

Franck Jabot, Guillaume Lagarrigues+2 more|arXiv (Cornell University)|Dec 16, 2014

Markov Chains and Monte Carlo Methods参考文献 38被引用数 11

ひとこと要約

この論文では、計算コストの高いモデルにおける近似ベイズ推論（ABC）を高速化する統計的エミュレーション手法の提案と評価を行う。少数のモデルシミュレーションで学習した高速な統計的エミュレータに置き換えることで、著者らは、確率的生態モデルにおいて計算時間を半分に削減する新しい逐次ABCアルゴリズムを提案する。RスクリプトはEasyABCパッケージに含まれている。

ABSTRACT

Approximate Bayesian Computation (ABC) is a family of statistical inference techniques, which is increasingly used in biology and other scientific fields. Its main benefit is to be applicable to models for which the computation of the model likelihood is intractable. The basic idea of ABC is to empirically approximate the model likelihood by using intensive realizations of model runs. Due to computing time limitations, ABC has thus been mainly applied to models that are relatively quick to simulate. We here aim at briefly introducing the field of statistical emulation of computer code outputs and to demonstrate its potential for ABC applications. Emulation consists in replacing the costly to simulate model by another (quick to simulate) statistical model called emulator or meta-model. This emulator is fitted to a small number of outputs of the original model, and is subsequently used as a surrogate during the inference procedure. In this contribution, we first detail the principles of model emulation, with a special reference to the ABC context in which the description of the stochasticity of model realizations is as important as the description of the trends linking model parameters and outputs. We then compare several emulation strategies in an ABC context, using as case study a stochastic ecological model of community dynamics. We finally describe a novel emulation-based sequential ABC algorithm which is shown to decrease computing time by a factor of two on the studied example, compared to previous sequential ABC algorithms. Routines to perform emulation-based ABC were made available within the R package EasyABC.

研究の動機と目的

• 複雑でシミュレーションに時間がかかるモデルに適用する際の近似ベイズ推論（ABC）の高い計算コストに対処すること。
• ABC推論中に高価なモデル実行を高速な代替モデル（サロゲートモデル）に置き換える手段として、統計的エミュレーションを検討すること。
• 特に、モデル出力のトレンドと確率性の両方を的確にモデル化することを重視し、ABCの文脈で複数のエミュレーション戦略を評価すること。
• エミュレーションに基づく新しい逐次ABCアルゴリズムの開発と検証を行い、計算効率を向上させること。
• RパッケージEasyABCを通じたエミュレーションベースABCの実装を容易にすること。

提案手法

• 著者らは、少数のシミュレーション実行に基づいて、計算コストの高いモデルの出力を近似する統計的エミュレータ（メタモデルとも呼ばれる）を用いる。
• エミュレータは、入力パラメータを関数として、モデル出力の平均（トレンド）と分散（確率性）を捉えるように訓練される。
• ガウス過程や多項式クラウド展開を含む、複数のエミュレーション技術を比較し、確率性が重要なABCの文脈で検証する。
• 後方分布密度の高いパrameter領域にシミュレーションの集中を図る、反復的にエミュレータを改善する新しい逐次ABCアルゴリズムを提案する。
• アルゴリズムはエミュレータを用いてパrameter選択をガイドし、必要なモデルシミュレーション回数を削減する。
• 実装はRパッケージEasyABCに統合されており、再現可能でアクセスしやすいエミュレーションベースABCワークフローを可能にする。

実験結果

リサーチクエスチョン

• RQ1 トレンドと確率性の両方を的確に捉える必要がある場合、近似ベイズ推論（ABC）に最も効果的な統計的エミュレーション手法は何か？
• RQ2 エミュレーションをどのように逐次ABCフレームワークに統合することで、計算効率を向上させられるか？
• RQ3 エミュレーションにより、推論の正確性を損なわずに、ABCにおける必要なモデルシミュレーション回数をどの程度削減できるか？
• RQ4 提案された逐次エミュレーションベースABCアルゴリズムの性能は、従来の逐次ABC手法と比較して、計算時間の面でどの程度優れているか？
• RQ5 提案手法は、尤度が閉形式で得られない複雑な確率的生態モデルに効果的に適用可能か？

主な発見

• ケーススタディにおいて、エミュレーションに基づく提案された逐次ABCアルゴリズムは、従来の逐次ABC手法と比較して、計算時間を2倍に短縮した。
• トレンドとばらつきの両方を同時にモデル化するエミュレーション戦略（例：異分散ノイズを伴うガウス過程）は、変動性を無視する手法よりも、より正確な後方分布近似を達成する。
• 初期の少数のモデル実行（例：50～100回）で十分に効果的なエミュレータを訓練でき、追加のシミュレーションの必要性を顕著に低減できる。
• 計算負荷の大幅な削減にもかかわらず、エミュレーションベースのアプローチは、後方推論の精度を良好に維持している。
• 実装されたルーチンを含むRパッケージEasyABCは、研究者が自らのABC問題にこの手法を最小限の追加コーディングで適用できるようにしている。