[论文解读] A Unified Stochastic Gradient Approach to Designing Bayesian-Optimal Experiments

Adam Foster, Martin Jankowiak+3 more|arXiv (Cornell University)|Nov 1, 2019

Advanced Multi-Objective Optimization Algorithms参考文献 25被引用 11

一句话总结

本文提出了一种统一的随机梯度方法用于贝叶斯最优实验设计（BOED），通过单一的随机梯度上升过程联合优化实验设计与变分近似。通过利用新型变分下界——特别是自适应对比估计（ACE）下界——该方法在高维设置下实现了高效、可扩展的BOED，相较于传统两阶段方法在速度和信息增益方面均有显著提升。

ABSTRACT

We introduce a fully stochastic gradient based approach to Bayesian optimal experimental design (BOED). Our approach utilizes variational lower bounds on the expected information gain (EIG) of an experiment that can be simultaneously optimized with respect to both the variational and design parameters. This allows the design process to be carried out through a single unified stochastic gradient ascent procedure, in contrast to existing approaches that typically construct a pointwise EIG estimator, before passing this estimator to a separate optimizer. We provide a number of different variational objectives including the novel adaptive contrastive estimation (ACE) bound. Finally, we show that our gradient-based approaches are able to provide effective design optimization in substantially higher dimensional settings than existing approaches.

研究动机与目标

• 解决传统两阶段BOED方法效率低下的问题，这些方法分别估计期望信息增益（EIG）并随后优化设计。
• 在现有方法因计算瓶颈而失效的高维设置下，实现可扩展的实验设计。
• 将EIG估计与设计优化统一为单一的随机梯度上升过程。
• 开发适用于联合优化变分参数与设计参数的EIG变分下界。
• 在真实世界、高维的实验设计问题（包括生物分子对接与行为经济学）中，展示所提框架的有效性。

提出的方法

• 提出一种统一的优化框架，通过随机梯度上升（SGA）同时优化设计参数与变分参数。
• 利用EIG的变分下界，包括新颖的自适应对比估计（ACE）下界，该下界可被任意收紧。
• 采用单一目标函数，作为EIG的下界，并在设计与变分参数上联合优化。
• 应用ACE下界以实现紧密的EIG估计，同时保持对SGA的兼容性，避免了单独的EIG估计与设计优化阶段。
• 根据问题背景，使用不同的变分下界（ACE、PCE、BA）在紧致性、计算成本与训练需求之间取得平衡。
• 采用蒙特卡洛估计与重参数化梯度，实现对设计与变分参数的可微分优化。

实验结果

研究问题

• RQ1 统一的随机梯度方法能否联合优化实验设计与变分推断，从而在高维设置下提升可扩展性？
• RQ2 在EIG估计精度与优化性能方面，不同变分下界（ACE、PCE、BA）的表现如何比较？
• RQ3 所提方法是否在信息增益与收敛速度方面优于传统两阶段BOED方法？
• RQ4 ACE下界在实现紧密EIG估计的同时，是否仍具备与联合优化兼容的特性？
• RQ5 统一梯度框架是否能在真实世界、高维问题（如生物分子对接）中实现有效的实验设计？

主要发现

• 在生物分子对接实验中，ACE方法实现了1.0835 ± 0.0003的最高EIG下界与1.0852 ± 0.0001的上界，显著优于专家设计基线的1.0191。
• 所有基于梯度的方法（ACE、PCE、BA）在EIG方面均优于专家设计实验，其中ACE在高维设置下表现出最一致的增益。
• 在迭代行为经济学实验中，统一梯度方法比基线更快、更有效地降低了后验熵与潜变量的RMSE。
• ACE下界在所有五个实验场景中均保持与或优于BA与PCE的表现，因此被推荐作为默认选择。
• 该方法在高维设计空间（如100个对接评分设计）中实现了有效优化，而传统方法因计算复杂度而难以应对。
• 该框架通过随机梯度上升实现了可扩展的端到端实验设计，消除了对单独的EIG估计与外部优化循环的需求。