[論文レビュー] A synthetic likelihood-based Laplace approximation for efficient design of biological processes

Mahasen B. Dehideniya, Antony M. Overstall+2 more|arXiv (Cornell University)|Mar 11, 2019

Optimal Experimental Design Methods参考文献 45被引用数 7

ひとこと要約

本論文は、尤度が計算不能な複雑な生物学的モデルに対する効率的なベイズ実験設計を可能にする、合成尤度に基づくラプラース近似を提案する。要約統計量とパラメータの後方分布に対するラプラース近似を組み合わせることで、高次元の設計空間における効用評価を高速化し、疫学および生態学分野における大規模実験の最適設計を、顕著な計算コストの削減と多様な効用関数において高いロバストネスを維持しながら実現する。

ABSTRACT

Complex models used to describe biological processes in epidemiology and ecology often have computationally intractable or expensive likelihoods. This poses significant challenges in terms of Bayesian inference but more significantly in the design of experiments. Bayesian designs are found by maximising the expectation of a utility function over a design space, and typically this requires sampling from or approximating a large number of posterior distributions. This renders approaches adopted in inference computationally infeasible to implement in design. Consequently, optimal design in such fields has been limited to a small number of dimensions or a restricted range of utility functions. To overcome such limitations, we propose a synthetic likelihood-based Laplace approximation for approximating utility functions for models with intractable likelihoods. As will be seen, the proposed approximation is flexible in that a wide range of utility functions can be considered, and remains computationally efficient in high dimensions. To explore the validity of this approximation, an illustrative example from epidemiology is considered. Then, our approach is used to design experiments with a relatively large number of observations in two motivating applications from epidemiology and ecology.

研究の動機と目的

• 系生物学、疫学、生態学分野における尤度が計算不能または高価なモデルに対するベイズ実験設計の計算不能性に対処すること。
• 従来の手法を、尤度に基づかないものも含むより広範な効用関数と、より大きな設計空間を扱えるように拡張すること。
• 完全な尤度評価を要約統計量とパラメータの後方分布に対するラプラース近似に置き換えることで、計算負荷を低減すること。
• 多数の観測値を含む実験の設計を、精度と効用近似のロバストネスを維持しながら効率的に実施できること。
• 事前シミュレーションデータセットや離散的設計空間の制約に依存しない、スケーラブルで柔軟な最適設計フレームワークを提供すること。

提案手法

• 次元削減のための要約統計量を用い、高次元データにおける次元の呪いを回避する。
• 多変量正規性を仮定することで、モデル下での要約統計量の尤度を合成尤度アプローチで近似する。
• パラメータの後方分布を、要約統計量と設計変数を前提として、効率的なラプラース近似で近似する。
• Kullback-Leibler 散逸、相互情報量、負の二乗誤差損失、全エントロピーといった効用関数を、ラプラース近似された後方分布を用いて評価する。
• 期待効用を最大化するための最適化により設計空間を探索し、悪化した近似を回避するための反復的精緻化を実施する。
• 簡単な例と2つの実世界の応用（口蹄疫モデルと変更版のLotka-Volterra捕食者-被捕食者モデル）を通じて、手法の妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 尤度が計算不能なモデルに対して、高次元の設計空間における効用関数を、合成尤度に基づくラプラース近似が効果的に近似できるか。
• RQ2 大規模な生物学的実験において、本手法は従来の手法と比較して計算効率と精度の点で優れているか。
• RQ3 本手法は、尤度に基づかないものも含む多様な効用関数を、複雑な生物学的システムの実験設計でどの程度扱えるか。
• RQ4 確率的感染症および生態的プロセスといった異なるモデルやデータ生成メカニズムに対して、本手法はどの程度ロバストか。
• RQ5 極めて多数の観測値を必要とするモデルに対しても、計算コストが著しく増大することなく適用可能か。

主な発見

• 提案手法により、尤度が計算不能なモデルに対する効率的な実験設計が可能となり、必要なモデルシミュレーション回数を削減することで顕著な計算コストの削減が達成された。
• 口蹄疫モデルでは、高い効用を示す最適なサンプリング時刻を的確に同定し、さまざまな設計基準においてもロバストであることが示された。
• 変更版のLotka-Volterraモデルでは、SIGPおよびNSEL効用に基づく設計は、等間隔設計と同等に優れた性能を示し、20個の設計点における平均期待効用はそれぞれ2.97（SD 0.02）および-0.0589（SD 0.0005）であった。
• ラプラース近似により、最小限の計算オーバーヘッドで正確な効用推定が可能となり、連続的かつ高次元の設計空間における最適化が実現された。
• 事前シミュレーションデータセットや離散的設計グリッドに依存しないため、従来の手法に比べ、より大きな設計空間と幅広い効用関数の取り扱いが可能になった。
• 要約統計量の選定に課題はあったが、最適化プロセス中に劣悪な効用を持つ設計がフィルタリングされ、手法全体として安定かつ有効であった。