[论文解读] A General Framework for Multi-fidelity Bayesian Optimization with Gaussian Processes

Jialin Song, Yuxin Chen+1 more|arXiv (Cornell University)|Nov 2, 2018

Gaussian Processes and Bayesian Inference被引用 27

一句话总结

本文提出 MF-MI-Greedy，一种基于高斯过程与跨不同保真度共享潜在结构的通用多保真度贝叶斯优化框架。通过最大化成本敏感的互信息增益，该方法实现了较低的遗憾值，并在合成与真实世界任务中表现出稳健性能，优于多种基线方法，且在不同成本定义下均表现优异。

ABSTRACT

How can we efficiently gather information to optimize an unknown function, when presented with multiple, mutually dependent information sources with different costs? For example, when optimizing a robotic system, intelligently trading off computer simulations and real robot testings can lead to significant savings. Existing methods, such as multi-fidelity GP-UCB or Entropy Search-based approaches, either make simplistic assumptions on the interaction among different fidelities or use simple heuristics that lack theoretical guarantees. In this paper, we study multi-fidelity Bayesian optimization with complex structural dependencies among multiple outputs, and propose MF-MI-Greedy, a principled algorithmic framework for addressing this problem. In particular, we model different fidelities using additive Gaussian processes based on shared latent structures with the target function. Then we use cost-sensitive mutual information gain for efficient Bayesian global optimization. We propose a simple notion of regret which incorporates the cost of different fidelities, and prove that MF-MI-Greedy achieves low regret. We demonstrate the strong empirical performance of our algorithm on both synthetic and real-world datasets.

研究动机与目标

• 解决在存在多个更便宜、保真度更低的近似函数时，优化昂贵的可评估函数的挑战。
• 开发一种通用框架，对多保真度层级之间的复杂结构依赖关系进行建模，并提供理论保证。
• 通过成本敏感的遗憾定义，将不同保真度级别的评估成本整合到优化过程中。
• 改进现有方法，这些方法依赖于简化的假设或缺乏理论支持的启发式查询选择策略。
• 在不同成本结构下，于多样化的真实世界与合成数据集上展示方法的稳健性表现。

提出的方法

• 使用具有共享潜在结构的加法高斯过程建模多种保真度，以捕捉低保真度与高保真度函数之间的依赖关系。
• 采用成本敏感的互信息增益作为获取函数，优先选择单位成本下信息增益最大的查询点。
• 提出一种新颖的遗憾定义，将每个保真度层级的评估成本纳入考量，从而支持理论上的遗憾界分析。
• 利用共享的高斯过程先验，对所有保真度层级进行联合后验更新与超参数优化。
• 利用加法高斯过程结构，将低保真度层级的不确定性与信息向目标保真度层级传播。
• 在保持原始遗憾保证的前提下，将现成的单保真度高斯过程优化算法（如 GP-UCB）适配至多保真度设置。

实验结果

研究问题

• RQ1 能否开发一种通用框架，用于多保真度贝叶斯优化，以捕捉多保真度层级之间的复杂结构依赖？
• RQ2 如何使互信息增益具备成本敏感性，以反映信息增益与评估成本之间的权衡？
• RQ3 当将单保真度高斯过程算法扩展至多保真度设置时，所提框架是否仍能保持理论上的遗憾保证？
• RQ4 该方法对保真度层级间成本结构估计不准确或发生变化的鲁棒性如何？
• RQ5 在保真度成本各异的真实应用场景中，该框架能否超越现有基线方法？

主要发现

• 在似然估计任务中，MF-MI-Greedy 在累积成本更低的前提下，优于 MF-GP-UCB 和 GP-UCB，获得更高的目标值。
• 在原始成本定义（基于 N×G）下，MF-MI-Greedy 表现优于基线方法，而 MF-GP-UCB 性能显著下降。
• 在基于仅数据点数（N）的修订成本定义下，MF-MI-Greedy 仍保持优异性能，表明其对成本结构变化具有鲁棒性。
• 在纳米光子结构设计任务中，经过初始探索后，MF-MI-Greedy 的指标（更优的设计质量）优于基线方法。
• 在所提出的成本敏感遗憾定义下，该方法保持了较低的遗憾值，且在将单保真度算法扩展至多保真度设置时，理论保证得以保留。
• 实验结果表明，MF-MI-Greedy 对成本估计不准确具有鲁棒性，这是在真实世界应用中的一项关键实际优势。