[论文解读] Fast Information-theoretic Bayesian Optimisation

Binxin Ru, Mark McLeod+2 more|arXiv (Cornell University)|Nov 2, 2017

Advanced Bandit Algorithms Research参考文献 17被引用 11

一句话总结

本文提出FITBO，一种快速的信息论贝叶斯优化方法，通过使用抛物线变换 f(x) = η + ½g(x)²，用对单个超参数 η 的高效采样替代了对全局最小值的昂贵采样。通过将最小值显式表示为超参数，FITBO极大减少了计算开销，支持灵活的核函数选择，并在性能上与最先进的方法PES和MES相当，同时显著更快——甚至超过了期望改进（Expected Improvement）的运行速度。

ABSTRACT

Information-theoretic Bayesian optimisation techniques have demonstrated state-of-the-art performance in tackling important global optimisation problems. However, current information-theoretic approaches require many approximations in implementation, introduce often-prohibitive computational overhead and limit the choice of kernels available to model the objective. We develop a fast information-theoretic Bayesian Optimisation method, FITBO, that avoids the need for sampling the global minimiser, thus significantly reducing computational overhead. Moreover, in comparison with existing approaches, our method faces fewer constraints on kernel choice and enjoys the merits of dealing with the output space. We demonstrate empirically that FITBO inherits the performance associated with information-theoretic Bayesian optimisation, while being even faster than simpler Bayesian optimisation approaches, such as Expected Improvement.

研究动机与目标

• 为解决现有信息论贝叶斯优化方法的高计算成本，特别是对全局最小值的昂贵采样问题。
• 减少像PES这类方法中因导数和谱密度要求而对核函数选择施加的限制。
• 通过聚焦于输出空间的信息，提升高维问题中的效率，如OPES和MES所采用的方式。
• 开发一种方法，在保持信息论方法强大性能的同时，实现与简单方法（如期望改进）相当的运行时间。
• 实现更快、可扩展的贝叶斯优化，近似开销最小化，并在合成任务和真实世界任务中均表现出稳健性能。

提出的方法

• FITBO使用抛物线变换 f(x) = η + ½g(x)²，将全局最小值显式表示为超参数 η，该超参数可被高效采样。
• 该方法将 η 视为高斯过程先验中的隐变量，允许在不采样最小值的情况下，对包括 η 在内的所有超参数进行联合边缘化。
• 通过避免采样全局最小值，FITBO消除了像PES和MES这类依赖两阶段采样的方法的计算瓶颈。
• 该方法利用贝叶斯积分技术，通过输出空间上的矩匹配来近似最小值分布的微熵。
• FITBO在输出空间中工作，因此在高维问题中比像PES这样的输入空间方法更高效。
• 一种变体FITBO-MM使用高斯混合熵的更宽松上界，实现速度提升，性能损失极小。

实验结果

研究问题

• RQ1 信息论贝叶斯优化的计算成本能否在不牺牲性能的前提下降低？
• RQ2 用 η 的超参数采样替代全局最小值采样，是否能带来更快的收敛速度和更好的可扩展性？
• RQ3 与需要特定核函数特性的现有信息论方法相比，FITBO能否支持更广泛的核函数？
• RQ4 在多峰函数和噪声函数上，FITBO与期望改进及其他最先进方法相比，在性能和速度上表现如何？
• RQ5 FITBO对熵计算中的近似（如FITBO-MM中的近似）是否具有鲁棒性？

主要发现

• FITBO在合成基准函数（包括Hartmann-6D）上的性能与PES和MES相当或更优，同时显著更快。
• 在Hartmann-6D问题上，FITBO和FITBO-MM在找到全局最小值和最低函数值方面优于所有其他方法。
• 在波士顿和癌症数据集上的神经网络超参数调优等真实世界任务中，FITBO和FITBO-MM比MES和EI更快收敛到更低的中位验证损失。
• 在MNIST-SVM任务中，FITBO和FITBO-MM的性能与PES相当，且优于EI，展现出在多样化问题上的强大泛化能力。
• 尽管使用了更宽松的熵近似，FITBO-MM的性能几乎与FITBO相当，证实了其对近似误差的鲁棒性。
• FITBO的运行速度超过期望改进，且在速度上与PI和GP-UCB相当，同时保持了信息论方法优越的探索能力。