[論文レビュー] Efficient Bayesian Experimental Design for Implicit Models

Steven Kleinegesse, Michael U. Gutmann|arXiv (Cornell University)|Oct 23, 2018

Advanced Multi-Objective Optimization Algorithms参考文献 27被引用数 8

ひとこと要約

本稿は、尤度が計算不能な暗黙的モデルに対して、尤度フリー推論による比率推定（LFIRE）を用いて事後分布を近似し、相互情報量を効用関数として用いる、革新的なベイズ実験設計フレームワークを提案する。ベイズ最適化を用いて高次元空間における最適設計を効率的に探索し、8次元のSIRモデルにおいて約15回の効用評価で収束を達成。事後分布の推定値は真のパラメータに非常に近い。

ABSTRACT

Bayesian experimental design involves the optimal allocation of resources in an experiment, with the aim of optimising cost and performance. For implicit models, where the likelihood is intractable but sampling from the model is possible, this task is particularly difficult and therefore largely unexplored. This is mainly due to technical difficulties associated with approximating posterior distributions and utility functions. We devise a novel experimental design framework for implicit models that improves upon previous work in two ways. First, we use the mutual information between parameters and data as the utility function, which has previously not been feasible. We achieve this by utilising Likelihood-Free Inference by Ratio Estimation (LFIRE) to approximate posterior distributions, instead of the traditional approximate Bayesian computation or synthetic likelihood methods. Secondly, we use Bayesian optimisation in order to solve the optimal design problem, as opposed to the typically used grid search or sampling-based methods. We find that this increases efficiency and allows us to consider higher design dimensions.

研究の動機と目的

• 尤度が計算不能だがシミュレーションが可能な暗黙的モデルにおけるベイズ実験設計の課題に対処すること。
• 事後分布が計算不能であるため、このようなモデルにおいて相互情報量を効用関数として計算することが困難であるという問題を克服すること。
• 高次元の設計空間においてグリッドサーチに代わるベイズ最適化を用いることで、効率性を向上させること。
• 疫学的SIRモデルのように複数の観測時刻を含む複雑な科学的モデルにおいて、実用的な実験設計を可能にすること。

提案手法

• 尤度フリー推論による比率推定（LFIRE）を用いて、尤度を明示的に必要とせずに事後分布と事前分布の密度比を推定する。
• パラメータとデータの間の相互情報量を効用関数として採用し、これはパラメータ推定と効率的推論において最適である。
• 期待効用を最大化するためにベイズ最適化を適用し、高次元におけるグリッドサーチの非現実性を回避する。
• モンテカルロサンプリングとカーネル密度推定を用いて、LFIREサンプルからの事後分布近似を滑らかにする。
• 実験設計にLFIREを統合する際、設計変数をモデル入力の一部として扱い、データ収集戦略の共同最適化を可能にする。
• アルゴリズム1を用いて期待効用を評価し、反復的に設計空間を改善するベイズ最適化を適用する。

実験結果

リサーチクエスチョン

• RQ1 尤度が計算不能な暗黙的モデルにおいて、相互情報量を効用関数として効果的に使用できるか？
• RQ2 明示的な尤度が存在しない状況で、効用関数の計算に必要な事後分布をどのように効率的に近似できるか？
• RQ3 高次元の実験設計問題において、ベイズ最適化がグリッドサーチやサンプリングベースの手法を上回る性能を示せるか？
• RQ4 本手法のフレームワークは、複数の観測時刻を持つ実際の高次元モデル（例：SIRモデル）においてどのように機能するか？
• RQ5 最適設計は等間隔サンプリングに比べて、パラメータ推定の精度をどの程度向上させるか？

主な発見

• 本フレームワークは、LFIREを用いることで、尤度が計算不能な暗黙的モデルにおいても相互情報量を効用関数として効果的に計算でき、従来の研究における主要な技術的障壁を克服した。
• ベイズ最適化により、8次元のSIRモデルにおいて最適設計に約15回の期待効用評価で収束が達成され、高い効率性が示された。
• 最適設計では、(β̂, γ̂) = (0.13, 0.05) の事後平均が得られ、95%信用区間はそれぞれ (0.02, 0.18) と (0.02, 0.07) であり、真のパラメータ (0.15, 0.05) を含んでいた。
• 最適設計の期待効用（U(d*) = 1.10）は、等間隔サンプリング（U(deq) = 1.08）をわずかに上回り、情報量の増加が確認された。
• 本手法は、グリッドサーチが計算的に非現実的になる高次元の設計空間に対してもスケーラブルである。
• 予備的な結果から、本フレームワークは逐次的実験設計への応用が可能である可能性を示唆しているが、これは未解決の研究課題のままである。