[論文レビュー] Bayesian Experimental Design for Implicit Models by Mutual Information Neural Estimation

Steven Kleinegesse, Michael U. Gutmann|arXiv (Cornell University)|Feb 19, 2020

Advanced Multi-Objective Optimization Algorithms参考文献 26被引用数 8

ひとこと要約

この論文は、ニューラル相互情報推定を用いて、実験設計と事後分布推定を同時に最適化する、implicit model における新しいベイジアン実験設計手法 MINEBED を提案する。勾配上昇を用いて微分可能な相互情報量の下界を最大化することで、明示的な尤度関数や事後分布推定ステップを必要とせず、スケーラブルで高次元の実験設計を可能にする。

ABSTRACT

Implicit stochastic models, where the data-generation distribution is intractable but sampling is possible, are ubiquitous in the natural sciences. The models typically have free parameters that need to be inferred from data collected in scientific experiments. A fundamental question is how to design the experiments so that the collected data are most useful. The field of Bayesian experimental design advocates that, ideally, we should choose designs that maximise the mutual information (MI) between the data and the parameters. For implicit models, however, this approach is severely hampered by the high computational cost of computing posteriors and maximising MI, in particular when we have more than a handful of design variables to optimise. In this paper, we propose a new approach to Bayesian experimental design for implicit models that leverages recent advances in neural MI estimation to deal with these issues. We show that training a neural network to maximise a lower bound on MI allows us to jointly determine the optimal design and the posterior. Simulation studies illustrate that this gracefully extends Bayesian experimental design for implicit models to higher design dimensions.

研究の動機と目的

• 尤度が計算不能であるが、シミュレーション可能なデータが得られる implicit model における最適な実験設計の課題に対処すること。
• 高次元の設計空間におけるパrameter とデータ間の相互情報量（MI）を最大化することが計算的に非現実的であるという課題を克服すること。
• 別々の推論ステップを必要とせず、最適な実験設計と事後分布を同時に学習するスケーラブルな手法を開発すること。
• データ生成プロセスがimplicitで尤度が存在しない状況においても、勾配ベースの実験設計最適化を可能にすること。

提案手法

• 相互情報量ニューラル推定（MINE）を活用し、モデルパラメータとデータ間の相互情報量の下界を最大化するようにニューラルネットワークを学習する。
• エンドツーエンド学習により、1つのニューラルネットワークで最適な実験設計と事後分布を同時に推定する。
• 勾配上昇を用いて、同時にニューラルネットワークのパラメータと設計変数を更新し、高次元の設計空間におけるスケーラブルな最適化を実現する。
• 目的関数をMIの微分可能な下界として定式化することで、勾配が利用可能な場合、データ生成プロセスを介したバックプロパゲーションを可能にする。
• 設計変数に関する勾配が存在しない場合、MINEとベイジアン最適化を組み合わせて、ニューラルネットワークの学習中に設計を更新する。
• 訓練済みのネットワークを用いて、追加の推論ステップを経ることなく、最適設計における事後分布 $ p(\bm{\theta} \mid \mathbf{y}, \mathbf{d}) $ を直接計算する。

実験結果

リサーチクエスチョン

• RQ1 implicit model における高次元の実験設計空間で、相互情報量を効果的に最適化できるか？
• RQ2 明示的な尤度関数がなくても、1つのニューラルネットワークが最適な実験設計と近似事後分布を同時に学習できるか？
• RQ3 MIの下界に対する勾配ベース最適化が、低次元にとどまらず、スケーラブルかつ効率的な実験設計を可能にするか？
• RQ4 複雑で計算不能なモデルを有する現実的なシミュレーション状況において、この手法はどの程度の性能を示すか？
• RQ5 この手法は、逐次的または適応的実験設計の設定に拡張可能か？

主な発見

• 提案された MINEBED 手法は、従来の手法が失敗する高次元の設計空間（例：ガス漏れ問題における10次元）にも、ベイジアン実験設計を拡張することに成功した。
• この手法は、情報量の増加を最大化するためにセンサーを上流に配置するなど、直感的で効果的な実験設計を生成する。
• 訓練済みのニューラルネットワークによる事後分布推定は、限られたデータでも不確実性を正確に反映し、真のパラメータ値をカバーする。
• 1回の測定の場合、事後分布は広がっているが、ガス漏れの方向を正しく示している。5回の測定では、事後分布がより集中し、真の発生源の位置を捉えている。
• 別々の尤度フリー推論を必要とせず、設計と事後分布の共同最適化を実現することで、計算オーバーヘッドを低減する。
• データ生成プロセスが設計変数に関して勾配を持たない場合でも、MINEとベイジアン最適化を組み合わせることで、手法の有効性が保たれる。