[论文解读] Sequential design of experiments to estimate a probability of exceeding a threshold in a multi-fidelity stochastic simulator

Rémi Stroh, Séverine Demeyer+3 more|arXiv (Cornell University)|Jul 26, 2017

Advanced Multi-Objective Optimization Algorithms参考文献 7被引用 3

一句话总结

本文提出了一种贝叶斯序贯设计策略——不确定性减少最大速度（MSUR），用于估计在高保真度下多保真度随机模拟器的输出超过临界阈值的概率。通过自适应选择物理输入和保真度级别，MSUR在无需事先知晓最优保真度级别的情况下，实现了与最佳单保真度SUR策略相当的不确定性减少效果，同时利用高斯过程模型和多保真度克里金法，在准确性和计算成本之间实现了平衡。

ABSTRACT

In this article, we consider a stochastic numerical simulator to assess the impact of some factors on a phenomenon. The simulator is seen as a black box with inputs and outputs. The quality of a simulation, hereafter referred to as fidelity, is assumed to be tunable by means of an additional input of the simulator (e.g., a mesh size parameter): high-fidelity simulations provide more accurate results, but are time-consuming. Using a limited computation-time budget, we want to estimate, for any value of the physical inputs, the probability that a certain scalar output of the simulator will exceed a given critical threshold at the highest fidelity level. The problem is addressed in a Bayesian framework, using a Gaussian process model of the multi-fidelity simulator. We consider a Bayesian estimator of the probability, together with an associated measure of uncertainty, and propose a new multi-fidelity sequential design strategy, called Maximum Speed of Uncertainty Reduction (MSUR), to select the value of physical inputs and the fidelity level of new simulations. The MSUR strategy is tested on an example.

研究动机与目标

• 在计算预算有限的条件下，估计随机模拟器在最高保真度水平下输出超过临界阈值的概率。
• 解决多保真度随机模拟器中模拟精度与计算成本之间的平衡挑战。
• 开发一种序贯实验设计策略，自适应地选择物理输入和保真度级别，以最小化概率估计的不确定性。
• 提供一个贝叶斯框架，使用高斯过程对模拟器输出进行建模，并量化阈值超出概率的不确定性。
• 证明所提出的MSUR策略在无需事先知晓最优保真度级别的情况下，性能可与最佳单保真度SUR策略相媲美。

提出的方法

• 将模拟器输出建模为条件正态分布，其均值和方差函数通过高斯过程建模，假设协方差和方差函数已知。
• 在均值函数 ξ(x,t) 上使用高斯过程先验，对均值采用非正式的均匀先验，从而通过克里金公式实现共轭后验更新。
• 通过高保真度下高斯过程后验均值和标准差的累积正态CDF变换，推导出阈值超出概率 p(x)。
• 提出一种新的序贯设计准则——最大不确定性减少速度（MSUR），通过选择能使感兴趣的后验方差期望减少量最大的下一个模拟点 (x,t) 来实现。
• 通过在物理输入和保真度级别上联合优化，将序贯不确定性减少（SUR）框架适配至多保真度场景，以加速收敛。
• 采用多保真度克里金模型在不同保真度级别之间借用信息，提高估计效率，同时尊重计算成本的权衡。

实验结果

研究问题

• RQ1 序贯设计策略是否能有效减少随机多保真度模拟器中阈值超出概率的不确定性？
• RQ2 如何优化物理输入和保真度级别的选择，以加速概率估计的不确定性减少？
• RQ3 所提出的MSUR策略是否在无需事先知晓最优保真度级别的情况下，实现了与最佳单保真度SUR策略相当的性能？
• RQ4 具有高斯过程先验的多保真度贝叶斯框架如何实现对计算成本高昂的模拟器中罕见事件概率的高效估计？
• RQ5 在不同保真度级别下，阈值超出概率估计中的计算成本与精度之间存在何种权衡？

主要发现

• MSUR策略在所有测试的保真度级别下，实现了与最佳单保真度SUR策略相当的不确定性减少性能，包括最精确的保真度级别。
• 在阈值超出概率误差水平为 0.05 时，MSUR的表现与使用最细时间步长（Δ = 0.05 s）的SL-SUR策略相当，表现出跨保真度级别的鲁棒性。
• MSUR在无需事先知晓哪一保真度级别能提供最佳精度-成本权衡的情况下，成功识别出最具信息量的物理输入与保真度级别的组合。
• 该方法显著降低了在不断增加的计算预算下，对全局概率 P 和局部概率函数 p(x) 估计的均方误差。
• 在高保真度模拟成本较高的情况下，MSUR策略在单位成本的不确定性减少方面优于单保真度SUR策略。
• 实证结果表明，即使在有限的模拟预算下，MSUR在概率函数的 L² 范数误差和全局概率误差方面均保持较低水平。