[论文解读] Bayesian Optimisation vs. Input Uncertainty Reduction

Juan Ungredda, Michael Pearce+1 more|arXiv (Cornell University)|May 31, 2020

Simulation Techniques and Applications参考文献 8被引用 4

一句话总结

本文提出贝叶斯信息收集与优化（BICO），一种新颖的贝叶斯优化框架，通过动态平衡仿真运行与真实世界数据收集，以减少输入不确定性并提升解的质量。通过采用信息价值方法，BICO在每次迭代中自动选择执行仿真或数据收集，其性能可与已知最优资源分配比例的固定分配策略相媲美，且无需事先知晓最佳分配比例。

ABSTRACT

Simulators often require calibration inputs estimated from real world data and the quality of the estimate can significantly affect simulation output. Particularly when performing simulation optimisation to find an optimal solution, the uncertainty in the inputs significantly affects the quality of the found solution. One remedy is to search for the solution that has the best performance on average over the uncertain range of inputs yielding an optimal compromise solution. We consider the more general setting where a user may choose between either running simulations or instead collecting real world data. A user may choose an input and a solution and observe the simulation output, or instead query an external data source improving the input estimate enabling the search for a more focused, less compromised solution. We explicitly examine the trade-off between simulation and real data collection in order to find the optimal solution of the simulator with the true inputs. Using a value of information procedure, we propose a novel unified simulation optimisation procedure called Bayesian Information Collection and Optimisation (BICO) that, in each iteration, automatically determines which of the two actions (running simulations or data collection) is more beneficial. Numerical experiments demonstrate that the proposed algorithm is able to automatically determine an appropriate balance between optimisation and data collection.

研究动机与目标

• 解决仿真优化中的输入不确定性问题，其中不准确的输入参数会降低解的质量。
• 开发一种统一框架，智能平衡仿真实验与真实世界数据收集，以提升解的鲁棒性。
• 实现仿真与数据收集之间有限资源的自动、自适应分配，避免次优的固定预算分割。
• 利用贝叶斯推断与高斯过程对仿真器输入的不确定性进行建模与降低。
• 在合成与真实世界仿真问题中，评估所提方法相对于固定分配策略的性能。

提出的方法

• BICO 使用贝叶斯框架，利用高斯过程对仿真器响应和输入参数的不确定性进行建模。
• 应用信息价值准则，计算通过运行仿真或收集真实世界数据所能带来的解质量的期望提升。
• 在每次迭代中，BICO 选择能最大化最优解期望提升的行动——即仿真或数据收集。
• 该方法在解空间与输入参数空间上构建联合代理模型，通过序贯贝叶斯推断更新信念。
• 采用受知识梯度启发的获取函数，同时考虑仿真输出的不确定性与输入参数的不确定性。
• 算法通过高效计算输入不确定性下的期望提升，实现实时决策。

实验结果

研究问题

• RQ1 统一的贝叶斯优化框架能否自动平衡仿真与数据收集，以在输入不确定性下提升解的质量？
• RQ2 BICO 的性能与预先将资源分配给数据收集的固定预算分配策略相比如何？
• RQ3 在解质量与资源效率方面，仿真工作量与数据收集之间的最优权衡是什么？
• RQ4 当输入不确定性较高时，BICO 是否会自适应地将更多资源分配给数据收集？当输入估计较准确时，是否更倾向于仿真？
• RQ5 BICO 是否能在事先不知晓数据与仿真之间最佳分配比例的情况下，实现接近最优的性能？

主要发现

• 即使最优资源分配比例事先未知，BICO 仍能达到与最优固定分配策略相当的解性能。
• 在一维参数测试案例中，BICO 分配给数据收集的资源多于二维参数案例，可能是因为高维输入空间需要更高的模型可信度。
• 在报童问题中，BICO 自动避免将超过30%的预算分配给数据收集，避开了固定分配策略中发现的次优区间。
• 该算法在合成与真实世界仿真问题中均表现出稳健性能，对优化成本的置信区间保持紧密。
• BICO 的自适应分配策略与最佳预设数据收集预算的性能高度接近，展现出强大的实际应用价值。
• 该方法在保持高质量仿真优化的同时，有效降低了输入不确定性，表现优于朴素或固定分配方法。