[论文解读] Efficient Bayesian Experimental Design for Implicit Models

Steven Kleinegesse, Michael U. Gutmann|arXiv (Cornell University)|Oct 23, 2018

Advanced Multi-Objective Optimization Algorithms参考文献 27被引用 8

一句话总结

本文提出了一种新颖的贝叶斯实验设计框架，用于隐式模型且似然函数不可计算的情况，利用无似然比估计（LFIRE）近似后验分布，并将互信息作为效用函数。该方法采用贝叶斯优化在高维空间中高效寻找最优设计，在一个8维SIR模型中仅需约15次效用评估即可实现收敛，后验估计结果与真实参数高度一致。

ABSTRACT

Bayesian experimental design involves the optimal allocation of resources in an experiment, with the aim of optimising cost and performance. For implicit models, where the likelihood is intractable but sampling from the model is possible, this task is particularly difficult and therefore largely unexplored. This is mainly due to technical difficulties associated with approximating posterior distributions and utility functions. We devise a novel experimental design framework for implicit models that improves upon previous work in two ways. First, we use the mutual information between parameters and data as the utility function, which has previously not been feasible. We achieve this by utilising Likelihood-Free Inference by Ratio Estimation (LFIRE) to approximate posterior distributions, instead of the traditional approximate Bayesian computation or synthetic likelihood methods. Secondly, we use Bayesian optimisation in order to solve the optimal design problem, as opposed to the typically used grid search or sampling-based methods. We find that this increases efficiency and allows us to consider higher design dimensions.

研究动机与目标

• 解决在似然函数不可计算但可进行模拟的隐式模型中进行贝叶斯实验设计的挑战。
• 克服由于后验分布不可计算而导致在这些模型中计算互信息作为效用函数的困难。
• 通过用贝叶斯优化替代网格搜索，提高在高维设计空间中的效率。
• 在具有多个观测时间的复杂科学模型（如流行病学SIR模型）中实现实际的实验设计。

提出的方法

• 使用无似然比估计（LFIRE）来估计后验密度与先验密度的比值，从而在无需显式似然函数的情况下实现互信息的计算。
• 将参数与数据之间的互信息作为效用函数，该函数在参数估计和高效推断方面具有最优性。
• 应用贝叶斯优化以最大化期望效用，避免在高维空间中使用网格搜索的不可行性。
• 使用蒙特卡洛采样和核密度估计来平滑LFIRE样本得到的后验近似。
• 通过将设计变量作为模型输入的一部分，将LFIRE与实验设计相结合，实现数据采集策略的联合优化。
• 采用算法1评估期望效用，并通过贝叶斯优化迭代优化设计空间。

实验结果

研究问题

• RQ1 在似然函数不可计算的隐式模型中，互信息能否作为贝叶斯实验设计中的效用函数被有效使用？
• RQ2 在缺乏显式似然函数的情况下，如何高效地近似后验分布以计算效用函数？
• RQ3 在高维实验设计问题中，贝叶斯优化是否能优于网格搜索或基于采样的方法？
• RQ4 所提出的框架在具有多个观测时间的真实高维模型（如SIR模型）中表现如何？
• RQ5 与等距采样相比，最优设计在多大程度上提升了参数估计的准确性？

主要发现

• 该框架成功利用LFIRE在隐式模型中计算互信息作为效用函数，克服了以往工作中的一项关键技术障碍。
• 贝叶斯优化在8维SIR模型中仅需约15次期望效用评估即可收敛至最优设计，显示出极高的效率。
• 最优设计得到的后验均值为(β̂, γ̂) = (0.13, 0.05)，95%可信区间分别为(0.02, 0.18)和(0.02, 0.07)，均包含真实参数(0.15, 0.05)。
• 最优设计的期望效用（U(d*) = 1.10）略高于等距采样的期望效用（U(deq) = 1.08），证实了信息增益的提升。
• 该方法可扩展至更高维的设计空间，此时网格搜索在计算上变得不可行。
• 初步结果表明该框架可拓展至序列实验设计，尽管这仍是开放的研究方向。