[论文解读] Gradient-based Bayesian Experimental Design for Implicit Models using Mutual Information Lower Bounds

Steven Kleinegesse, Michael U. Gutmann|arXiv (Cornell University)|May 10, 2021

Gaussian Processes and Bayesian Inference被引用 6

一句话总结

该论文提出了一种基于梯度的贝叶斯实验设计框架，用于隐式模型，利用可微分互信息下界，通过神经网络实现高效优化。通过训练神经网络以估计互信息下界，并通过随机梯度上升联合优化实验设计，该方法在难以处理的模型（包括流行病学中的随机微分方程）的参数估计、模型区分和预测改进任务中实现了最先进性能。

ABSTRACT

We introduce a framework for Bayesian experimental design (BED) with implicit models, where the data-generating distribution is intractable but sampling from it is still possible. In order to find optimal experimental designs for such models, our approach maximises mutual information lower bounds that are parametrised by neural networks. By training a neural network on sampled data, we simultaneously update network parameters and designs using stochastic gradient-ascent. The framework enables experimental design with a variety of prominent lower bounds and can be applied to a wide range of scientific tasks, such as parameter estimation, model discrimination and improving future predictions. Using a set of intractable toy models, we provide a comprehensive empirical comparison of prominent lower bounds applied to the aforementioned tasks. We further validate our framework on a challenging system of stochastic differential equations from epidemiology.

研究动机与目标

• 解决在似然函数不可计算但可模拟数据的隐式模型中进行贝叶斯实验设计（BED）的挑战。
• 开发一个可推广的框架，支持多种互信息下界，用于优化实验设计。
• 通过随机梯度上升实现神经网络参数与实验设计的联合优化，避免依赖变分近似。
• 将贝叶斯实验设计从参数估计扩展至模型区分和未来预测任务。
• 在玩具模型和真实世界流行病学SDE模型上验证该框架，证明其鲁棒性和可扩展性。

提出的方法

• 该框架使用可微分互信息（MI）下界（如JSD、NWJ等）作为实验设计的效用函数。
• 训练一个神经网络，利用来自隐式模型的采样数据估计MI下界，通过随机梯度上升更新参数。
• 通过反向传播梯度，将实验设计与神经网络联合优化，梯度来自下界目标函数。
• 该方法通过直接使用神经网络参数化MI估计和设计优化，避免了变分推断。
• 评估并比较多种下界（如JSD、NWJ），训练时使用JSD下界，验证时使用NWJ下界以降低方差。
• 该方法被应用于参数估计、模型区分和预测改进任务，并在合成模型和真实世界SDE模型上进行了验证。

实验结果

研究问题

• RQ1 互信息下界能否在隐式模型的贝叶斯实验设计中有效用作效用函数？
• RQ2 在BED任务中，不同MI下界（如JSD、NWJ）在优化稳定性和性能方面如何比较？
• RQ3 通过梯度上升联合优化神经网络与实验设计，能否在参数估计和模型区分任务中超越现有方法？
• RQ4 该框架是否能在多样化的科学任务中泛化，包括预测改进和模型比较？
• RQ5 该方法在复杂且难以处理的模型（如流行病学中的随机微分方程）上是否具备良好的可扩展性和性能表现？

主要发现

• 该框架成功利用MI下界上的梯度上升优化实验设计，在多个任务中均实现了稳定收敛。
• Jensen-Shannon散度（JSD）下界表现出平滑的训练曲线和有效的优化性能，而NWJ下界虽方差较高，但在验证中仍具实用性。
• 对于SIR和SEIR流行病学模型，最优设计始终集中在早期测量时间点，此时模型响应最具可区分性。
• 随着实验预算的增加，模型区分性能得到提升，但SEIR模型因响应动力学重叠，始终比SIR模型更难恢复。
• 该方法在玩具模型和真实世界SDE上均表现出强劲的实证性能，验证了其在复杂科学问题中的适用性。
• 神经网络与实验设计的联合优化实现了高效、可扩展的BED，且无需依赖变分近似。