[论文解读] Robust Expected Information Gain for Optimal Bayesian Experimental Design Using Ambiguity Sets

Jinwoo Go, Tobin Isaac|arXiv (Cornell University)|May 20, 2022

Optimal Experimental Design Methods被引用 5

一句话总结

本文提出鲁棒期望信息增益（REIG），一种通过在KL散度距离原先验较近的模糊集内最小化期望信息增益来增强贝叶斯实验设计的方法。REIG通过样本的对数求和指数后处理稳定EIG估计，提高了对先验误设和抽样噪声的鲁棒性，数值结果表明其能校正VNMC、ACE和MINE等估计器的偏差，同时保持最优实验设计选择。

ABSTRACT

The ranking of experiments by expected information gain (EIG) in Bayesian experimental design is sensitive to changes in the model's prior distribution, and the approximation of EIG yielded by sampling will have errors similar to the use of a perturbed prior. We define and analyze \emph{robust expected information gain} (REIG), a modification of the objective in EIG maximization by minimizing an affine relaxation of EIG over an ambiguity set of distributions that are close to the original prior in KL-divergence. We show that, when combined with a sampling-based approach to estimating EIG, REIG corresponds to a `log-sum-exp' stabilization of the samples used to estimate EIG, meaning that it can be efficiently implemented in practice. Numerical tests combining REIG with variational nested Monte Carlo (VNMC), adaptive contrastive estimation (ACE) and mutual information neural estimation (MINE) suggest that in practice REIG also compensates for the variability of under-sampled estimators.

研究动机与目标

• 为解决期望信息增益（EIG）在贝叶斯实验设计中对先验分布误设的敏感性问题。
• 提高在高维或复杂模型中基于抽样的EIG估计的可靠性，此类模型的抽样近似易受误差和不稳定性影响。
• 开发一种实用且计算高效的鲁棒方法，在先验不确定性下仍能保持实验设计的最优性。
• 证明REIG能稳定VNMC、ACE和MINE等EIG估计器，减少因抽样不足导致的偏差。

提出的方法

• 定义一个模糊集，包含在KL散度半径ε内与参考先验p(θ)相近的所有先验分布，以表示合理的先验扰动。
• 将鲁棒期望信息增益（REIG）表述为在该模糊集上对最坏情况先验偏差的极大极小期望信息增益，以确保对最坏情况先验偏离的鲁棒性。
• 证明REIG估计可简化为对标准EIG估计器样本的对数求和指数稳定化处理，从而实现高效后处理。
• 利用凸分析推导出，REIG估计需要求解一个关于抽样EIG值的一维凸优化问题，与现有基于抽样的EIG方法兼容。
• 将REIG与三种现代EIG估计器集成：变分嵌套蒙特卡洛（VNMC）、自适应对比估计（ACE）和互信息神经估计（MINE）。
• 将该方法应用于基准问题，包括高斯模型和药代动力学模型，以评估其鲁棒性和收敛性。

实验结果

研究问题

• RQ1 在实际中，先验误设如何影响基于EIG的实验设计的可靠性？
• RQ2 能否构建一种鲁棒的EIG形式，使其在先验分布的小幅扰动下仍保持稳定？
• RQ3 能否在不修改其核心结构的前提下，高效地使用现有基于抽样的EIG估计器实现REIG？
• RQ4 在抽样噪声下，REIG是否能提高VNMC、ACE和MINE等EIG估计器的准确性和收敛性？
• RQ5 模糊集半径ε对REIG在真实世界实验设计任务中的鲁棒性和性能有何影响？

主要发现

• REIG通过将抽样EIG值进行对数求和指数变换来稳定EIG估计，有效降低了因抽样不足导致的方差和偏差。
• 当模糊集半径ε = 0.1时，ACE估计器的EIG下界超过真实EIG值，而VNMC的上界低于真实值，表明REIG成功校正了估计偏差。
• 在药代动力学模型中，使用REIG和ε = 0.1的MINE得到的EIG估计值接近真实值，而标准MINE显著低估了该值。
• 即使标准EIG估计器存在偏差，REIG仍能保持最优实验设计选择，这在高斯模型和药代动力学基准中均得到验证。
• 该方法计算高效，仅需对现有EIG样本进行一维凸优化步骤，可无缝集成到VNMC、ACE和MINE中，实现即插即用。
• 结果表明，将REIG与ACE和VNMC等上下界估计器结合，可能实现对最优模糊集半径ε的事后估计。