[論文レビュー] Batch simulations and uncertainty quantification in Gaussian process surrogate approximate Bayesian computation

Marko Järvenpää, Aki Vehtari+1 more|arXiv (Cornell University)|Oct 14, 2019

Markov Chains and Monte Carlo Methods被引用数 6

ひとこと要約

本稿では、限られたシミュレーション回数による事後分布推定の不確実性を特定するためにガウス過程（GP）サーヴェイモデルを用いることで、近似ベイズ計算（ABC）を改善するフレームワーク「Bayesian ABC」を提案する。並列化可能なバッチ逐次ベイズ実験設計を導入し、高価なシミュレーションを大幅に短縮しながらも精度を維持する。また、ABC事後モーメントの数値的不確実性伝搬も提供する。

ABSTRACT

The computational efficiency of approximate Bayesian computation (ABC) has been improved by using surrogate models such as Gaussian processes (GP). In one such promising framework the discrepancy between the simulated and observed data is modelled with a GP which is further used to form a model-based estimator for the intractable posterior. In this article we improve this approach in several ways. We develop batch-sequential Bayesian experimental design strategies to parallellise the expensive simulations. In earlier work only sequential strategies have been used. Current surrogate-based ABC methods also do not fully account the uncertainty due to the limited budget of simulations as they output only a point estimate of the ABC posterior. We propose a numerical method to fully quantify the uncertainty in, for example, ABC posterior moments. We also provide some new analysis on the GP modelling assumptions in the resulting improved framework called Bayesian ABC and discuss its connection to Bayesian quadrature (BQ) and Bayesian optimisation (BO). Experiments with toy and real-world simulation models demonstrate advantages of the proposed techniques.

研究の動機と目的

• マルチコアシステムにおけるスケーラビリティの制限要因となる、GPサーヴェイベースABCにおける逐次的シミュレーションの非効率性を是正する。
• 限られたシミュレーション予算のもとでのABC事後要約統計量（例：平均および分散）の不確実性を定量化する。これは先行研究におけるギャップである。
• GP近似による不確実性と有限なシミュレーション予算による不確実性の両方を扱うフレームワークを構築し、推論の信頼性を向上させる。
• ベイズ実験設計を用いてABC推論におけるバッチシミュレーションを可能にすることで、サンプル効率と壁時刻性能を向上させる。
• ベイズABC、ベイズ四則（BQ）、ベイズ最適化（BO）の間の概念的および手法的関係を確立し、理論的理解を深める。

提案手法

• 観測データとシミュレートされたデータの乖離をガウス過程（GP）でモデル化し、要約統計量の確率的予測を可能にする。
• EIVおよびEIMADの獲得関数を用いたバッチ逐次ベイズ実験設計を適用し、複数のシミュレーション点を並列に選択することで、壁時刻の効率を向上させる。
• 意思決定理論フレームワークを用いて、期待事後分散を最小化するようにバッチ点を選択し、探索と活用のバランスを取る。
• 乖離モデルにおけるGPの不確実性を数値積分を用いてABC事後分布に伝搬させ、事後モーメントの不確実性評価を可能にする。
• ABC事後分布の非可解な推定器としてGPベースの推定器としてベイズABCを定式化し、GP予測のモンテカルロサンプリングによる不確実性評価を実施する。
• MCMCサンプリングを用いて事後分布を近似し、MAXV、MAXMAD、RAND、EIV、EIMADなどの獲得関数を用いて、バッチおよび逐次設定における性能を比較する。

実験結果

リサーチクエスチョン

• RQ1 バッチ逐次ベイズ実験設計は、精度を損なわせることなく、GPサーヴェイベースABCの壁時刻効率をどのように向上させ得るか？
• RQ2 限られた数のシミュレーションしか利用できない状況下で、ABC事後モーメントの不確実性はどの程度定量化可能か？
• RQ3 EIV、EIMAD、MAXVなどの異なる獲得関数は、バッチ設定における事後分布近似の質と計算効率の観点から、どのように比較されるか？
• RQ4 ベイズABC、ベイズ四則（BQ）、およびベイズ最適化（BO）の間にはどのような関係があり、BQからの知見はABCにおける不確実性評価にどのように応用可能か？
• RQ5 提案フレームワークはモデル不適合に対してどの程度頑健であり、不確実性推定は事後分布近似の収束性と信頼性をどの程度反映しているか？

主な発見

• 提案されたバッチ逐次戦略（EIV、EIMAD）は、逐次的手法と比較して壁時刻を顕著に短縮し、事後分布近似の精度をほとんど損なわない。
• EIVおよびEIMADの獲得関数は、MAXVやMAXMADと比較してより安定的かつ正確な事後推定を達成しており、EIVは不確実性評価においてわずかに優れた性能を示した。
• RANDは完全に並列化可能であるが、高次元問題では性能が著しく劣り、ランダムサンプリングではなく、情報に基づいたバッチ選択の重要性を示唆している。
• ローレンツおよび細菌感染モデルにおいて、ABC事後期待値（例：平均および95％信頼区間）の不確実性評価が成功裏に実施され、反復回数の増加に伴い真値に収束することが確認された。
• 細菌感染モデルにおいて、600反復後に限られたシミュレーションでも、ベイズABCフレームワークにより事後モーメントの不確実性が厳密に評価可能となった。
• ベイズ四則（BQ）との関連性は、将来的な解析的不確実性伝搬の可能性を示唆しており、精度向上と計算コスト低減が期待される。