[论文解读] Robust Multi-Objective Bayesian Optimization Under Input Noise

Samuel Daulton, Sait Cakmak+4 more|arXiv (Cornell University)|Feb 15, 2022

Advanced Multi-Objective Optimization Algorithms被引用 6

一句话总结

该论文提出了一种首个对输入噪声具有鲁棒性的多目标贝叶斯优化方法，通过优化多变量风险价值（MVaR）实现，MVaR是一种确保目标在高概率下满足规格的风险度量。该方法采用随机加权法，实现可扩展且理论基础坚实的MVaR优化，在输入存在噪声的情况下，优于其他方法，能够更有效地识别鲁棒设计。

ABSTRACT

Bayesian optimization (BO) is a sample-efficient approach for tuning design parameters to optimize expensive-to-evaluate, black-box performance metrics. In many manufacturing processes, the design parameters are subject to random input noise, resulting in a product that is often less performant than expected. Although BO methods have been proposed for optimizing a single objective under input noise, no existing method addresses the practical scenario where there are multiple objectives that are sensitive to input perturbations. In this work, we propose the first multi-objective BO method that is robust to input noise. We formalize our goal as optimizing the multivariate value-at-risk (MVaR), a risk measure of the uncertain objectives. Since directly optimizing MVaR is computationally infeasible in many settings, we propose a scalable, theoretically-grounded approach for optimizing MVaR using random scalarizations. Empirically, we find that our approach significantly outperforms alternative methods and efficiently identifies optimal robust designs that will satisfy specifications across multiple metrics with high probability.

研究动机与目标

• 解决现实应用中缺乏对输入噪声具有鲁棒性的多目标贝叶斯优化方法的问题。
• 将鲁棒多目标优化形式化为在输入扰动下最小化目标分布的多变量风险价值（MVaR）。
• 开发一种可扩展且理论基础坚实的MVaR优化方法，避免直接计算高维累积分布函数（CDF）。
• 确保在输入噪声下，设计在多个目标上均以高概率保持高性能。
• 在识别尽管存在输入参数噪声但仍满足性能规格的鲁棒设计方面，优于现有方法。

提出的方法

• 将优化目标形式化为在输入噪声下最大化目标向量的多变量风险价值（MVaR），以确保高概率性能。
• 采用随机加权法将MVaR优化问题转化为一系列单目标问题，从而实现高效获取函数优化。
• 使用准蒙特卡洛（QMC）采样估计在输入噪声下目标向量的经验累积分布函数（CDF），以支持MVaR计算。
• 利用MVaR的边界（来自各目标独立VaR的边界）来减少计算成本，通过将网格计算限制在相关区域。
• 实现两种优化的MVaR计算例程：一种适用于中小样本量，另一种适用于大样本量下的内存效率。
• 将MVaR优化框架集成到贝叶斯优化循环中，使用高斯过程模型在不确定性下指导获取。

实验结果

研究问题

• RQ1 当多个目标对扰动敏感时，能否使多目标贝叶斯优化对输入噪声具有鲁棒性？
• RQ2 MVaR是否是噪声环境中多目标鲁棒设计的合适且可解释的风险度量？
• RQ3 能否在不产生不可行计算的情况下，高效优化高维输入和目标空间中的MVaR？
• RQ4 随机加权法如何实现MVaR约束下的可扩展获取优化？
• RQ5 所提出方法是否在识别输入噪声下的鲁棒设计方面优于现有的单目标鲁棒BO和非鲁棒MO-BO基线方法？

主要发现

• 所提出方法在识别在输入噪声下以高概率满足多个性能规格的鲁棒设计方面，显著优于其他方法。
• 与非鲁棒和单目标鲁棒基线相比，该方法在噪声条件下能更优地收敛至真实的帕累托前沿。
• 随机加权法通过将MVaR转化为具有理论保证的可处理单目标问题，实现了高效的获取优化。
• 通过将网格限制在各目标独立VaR之上的区域，加速了MVaR计算，将复杂度从O(n_ξ^M M)降低至O((1−α)^M n_ξ^M M)。
• 该方法保持了高样本效率，所需的目标评估次数少于竞争方法，即可识别鲁棒设计。
• 实证结果表明，基于MVaR的方法识别出的设计对输入扰动更不敏感，即使其标称性能略逊于非鲁棒方法。