[论文解读] Bayesian Experimental Design for Implicit Models by Mutual Information Neural Estimation

Steven Kleinegesse, Michael U. Gutmann|arXiv (Cornell University)|Feb 19, 2020

Advanced Multi-Objective Optimization Algorithms参考文献 26被引用 8

一句话总结

该论文提出MINEBED，一种针对隐式模型的新型贝叶斯实验设计方法，利用神经互信息估计联合优化实验设计与后验推断。通过梯度上升最大化互信息的可微下界，该方法实现了无需显式似然函数或单独后验估计步骤的可扩展、高维实验设计。

ABSTRACT

Implicit stochastic models, where the data-generation distribution is intractable but sampling is possible, are ubiquitous in the natural sciences. The models typically have free parameters that need to be inferred from data collected in scientific experiments. A fundamental question is how to design the experiments so that the collected data are most useful. The field of Bayesian experimental design advocates that, ideally, we should choose designs that maximise the mutual information (MI) between the data and the parameters. For implicit models, however, this approach is severely hampered by the high computational cost of computing posteriors and maximising MI, in particular when we have more than a handful of design variables to optimise. In this paper, we propose a new approach to Bayesian experimental design for implicit models that leverages recent advances in neural MI estimation to deal with these issues. We show that training a neural network to maximise a lower bound on MI allows us to jointly determine the optimal design and the posterior. Simulation studies illustrate that this gracefully extends Bayesian experimental design for implicit models to higher design dimensions.

研究动机与目标

• 解决在似然函数不可计算但可模拟数据的隐式模型中设计最优实验的挑战。
• 克服在高维设计空间中最大化参数与数据之间互信息（MI）的计算不可行性。
• 开发一种可扩展的方法，联合学习最优实验设计与后验分布，无需单独的推断步骤。
• 即使数据生成过程为隐式且无似然函数，也能实现基于梯度的实验设计优化。

提出的方法

• 利用互信息神经估计（MINE）训练神经网络，以最大化模型参数与数据之间互信息的下界。
• 使用单一神经网络通过端到端训练联合估计最优实验设计与后验分布。
• 应用梯度上升同时更新神经网络参数与设计变量，实现在高维设计空间中的可扩展优化。
• 将效用函数表述为MI的可微下界，使在梯度可用时能够通过数据生成过程反向传播。
• 在设计变量无梯度的情况下，将MINE与贝叶斯优化结合，以在训练神经网络的同时更新设计。
• 利用训练好的网络直接计算最优设计下的后验 $ p(\bm{\theta} \mid \mathbf{y}, \mathbf{d}) $，无需额外推断。

实验结果

研究问题

• RQ1 在隐式模型的高维实验设计空间中，互信息能否被有效优化？
• RQ2 能否通过单一神经网络在无显式似然函数的情况下联合学习最优实验设计与近似后验分布？
• RQ3 基于梯度的MI下界优化是否能实现超越低维设置的可扩展且高效的实验设计？
• RQ4 该方法在具有复杂、不可计算模型的真实模拟场景中表现如何？
• RQ5 该方法能否扩展至序列或自适应实验设计设置？

主要发现

• 所提出的MINEBED方法成功将贝叶斯实验设计扩展至高维设计空间（如气体泄漏示例中的10维），传统方法在此类场景中失效。
• 该方法生成直观且有效的实验设计，例如在气体泄漏检测任务中将传感器置于上游位置以最大化信息增益。
• 通过训练好的神经网络估计的后验分布能准确反映不确定性，并覆盖真实参数值，即使数据有限。
• 在一次测量情况下，后验分布较宽但正确指明了气体泄漏方向；在五次测量后，后验分布更加集中并准确捕获了真实泄漏位置。
• 该方法在无需单独的无似然推断步骤的情况下实现设计与后验的联合优化，降低了计算开销。
• 即使数据生成过程对设计变量缺乏梯度，该方法仍通过结合MINE与贝叶斯优化保持有效性。