[论文解读] Variational Bayesian Optimal Experimental Design

Adam Foster, Martin Jankowiak+5 more|arXiv (Cornell University)|Mar 13, 2019

Optimal Experimental Design Methods参考文献 36被引用 36

一句话总结

本文介绍了在贝叶斯最优实验设计（BOED）中使用通用变分推断的快速期望信息增益（EIG）估计器，提升了相对于此前方法的速度和准确性。它在多项实验中展示了端到端的实际可用性。

ABSTRACT

Bayesian optimal experimental design (BOED) is a principled framework for making efficient use of limited experimental resources. Unfortunately, its applicability is hampered by the difficulty of obtaining accurate estimates of the expected information gain (EIG) of an experiment. To address this, we introduce several classes of fast EIG estimators by building on ideas from amortized variational inference. We show theoretically and empirically that these estimators can provide significant gains in speed and accuracy over previous approaches. We further demonstrate the practicality of our approach on a number of end-to-end experiments.

研究动机与目标

• 将 BOED 构建为一个用于高效利用有限实验资源的基于原理的框架。
• 解决在 BOED 中估计 EIG 的计算挑战。
• 利用摊销变分推断开发快速、准确的 EIG 估计器。
• 在端到端实验中展示该方法的实用性。

提出的方法

• 提出几类受摊销变分推断启发的快速 EIG 估计器。
• 理论分析相对于先前的 EIG 估计方法的性能提升。
• 在合成和真实数据集上进行实证比较，比较速度和准确性相对于基线。
• 通过多个实验场景展示端到端的适用性。

实验结果

研究问题

• RQ1 相较于现有方法，摊销变分方法是否能为 BOED 提供更快且更准确的 EIG 估计？
• RQ2 在不同实验设置下，所提出的估计器在计算效率和估计质量方面的表现如何？
• RQ3 这些估计器是否使现实任务中的实用、端到端的 BOED 成为可能？

主要发现

• 所提出的估计器在速度方面相较于先前的 EIG 估计方法取得显著提升。
• 在评估的场景中，估计器在估计 EIG 的准确性方面也有所提高。
• 该方法使在若干实验中实现实际的端到端 BOED 成为可能。