[论文解读] Multi-fidelity Bayesian Optimisation with Continuous Approximations

Kirthevasan Kandasamy, Gautam Dasarathy+2 more|arXiv (Cornell University)|Mar 18, 2017

Machine Learning and Data Classification参考文献 29被引用 95

一句话总结

本论文提出 BOCA，一种用于连续保真度空间的贝叶斯优化方法，并给出理论上的遗憾界限，表明它能够利用连续低保真信息来加速在高保真度处找到最优解。

ABSTRACT

Bandit methods for black-box optimisation, such as Bayesian optimisation, are used in a variety of applications including hyper-parameter tuning and experiment design. Recently, \emph{multi-fidelity} methods have garnered considerable attention since function evaluations have become increasingly expensive in such applications. Multi-fidelity methods use cheap approximations to the function of interest to speed up the overall optimisation process. However, most multi-fidelity methods assume only a finite number of approximations. In many practical applications however, a continuous spectrum of approximations might be available. For instance, when tuning an expensive neural network, one might choose to approximate the cross validation performance using less data $N$ and/or few training iterations $T$. Here, the approximations are best viewed as arising out of a continuous two dimensional space $(N,T)$. In this work, we develop a Bayesian optimisation method, BOCA, for this setting. We characterise its theoretical properties and show that it achieves better regret than than strategies which ignore the approximations. BOCA outperforms several other baselines in synthetic and real experiments.

研究动机与目标

• 在可用一组连续光谱的廉价近似来处理昂贵目标时，动机化并形式化优化问题。
• 开发一个基于高斯过程的贝叶斯优化算法，利用连续保真度提高样本效率。
• 给出理论上的遗憾界限，证明在保真映射平滑时相比单保真 GP-UCB 的增益。
• 在合成和真实任务上对 BOCA 与基线进行实证比较，以验证有效性。

提出的方法

• 将目标建模为 g(z, x)，其中 f(x)=g(z bullet, x)，其中 z 位于连续保真度空间 Z。
• 使用一个在 g 上的高斯过程先验，乘积核为 k([z,x],[z',x'])=k0 * phi_Z(||z-z'||) * phi_X(||x-x'||)。
• 构造 GP-UCB 风格的上置信界 varphi_t(x)=mu_{t-1}(x)+sqrt(beta_t)*sigma_{t-1}(x) 以选择 x_t。
• 通过三个条件定义保真子集 Z_t(x_t)，平衡成本、信息差 xi(z) 与后验不确定性，并选取成本最低的可接受的 z_t（若不存在则选取 z_bullet）。
• 给出理论结果（非严格）表明当 g 在 Z 上光滑时，BOCA 相对于 GP-UCB 能获得改进的简单遗憾界限；当光滑度较低时，退化更为温和。

实验结果

研究问题

• RQ1 是否可以在贝叶斯优化中有效利用连续保真度空间来加速找到高保真度最优解？
• RQ2 在连续保真度集合中，如何同时选择决策变量 x 和保真度 z，以平衡信息增益与成本？
• RQ3 BOCA 的遗憾保证是什么，与在保真度空间的不同光滑度下的单保真 GP-UCB 相比如何？
• RQ4 在合成和实际任务上的实证结果是否支持 BOCA 相较于有限保真度和非多保真基线的理论优势？

主要发现

• BOCA 在合成实验中优于包括 GP-UCB、EI、MF-GP-UCB 和 MF-SKO 在内的基线。
• 该方法对保真度空间上 g 的光滑度具有自适应性，当保真度对高保真目标信息量很大时表现更好。
• BOCA 提供理论遗憾界限，指示当信息差 xi 较小时（Z 中内核带宽较大）性能改进。
• 分析显示大多数高保真查询集中在最优解周围的一个小区域，得益于各保真度之间的共享信息。
• BOCA 可扩展到离散保真集合和其他内核，但在高维场景下存在可扩展性限制的说明。