[论文解读] Bayesian Optimization for Dynamic Problems

Favour Nyikosa, Michael A. Osborne+1 more|arXiv (Cornell University)|Mar 9, 2018

Gaussian Processes and Bayesian Inference参考文献 25被引用 11

一句话总结

本文提出自适应贝叶斯优化（ABO）以应对具有时变目标函数的动态问题，采用时空高斯过程建模时间与空间的演化。通过利用时间相关性，ABO 自主调度评估，自适应调整采样频率，并在比基线方法更少的函数评估次数下保持跟踪效率，在合成与真实世界的动态优化任务中，优于标准贝叶斯优化与非贝叶斯优化方法。

ABSTRACT

We propose practical extensions to Bayesian optimization for solving dynamic problems. We model dynamic objective functions using spatiotemporal Gaussian process priors which capture all the instances of the functions over time. Our extensions to Bayesian optimization use the information learnt from this model to guide the tracking of a temporally evolving minimum. By exploiting temporal correlations, the proposed method also determines when to make evaluations, how fast to make those evaluations, and it induces an appropriate budget of steps based on the available information. Lastly, we evaluate our technique on synthetic and real-world problems.

研究动机与目标

• 解决目标函数随时间演变且评估成本高昂的动态优化问题。
• 开发一种无需重启或事先知晓变化模式的贝叶斯优化框架，以适应时间动态变化。
• 通过学习时间相关性并相应调整采样频率，实现函数评估的自动调度。
• 通过引入时间感知的代理建模与获取函数设计，提升追踪移动最优解的数据效率。
• 为传感器网络优化与时变系统配置等真实世界的动态问题，提供实用且可扩展的解决方案。

提出的方法

• 使用捕捉空间与时间联合依赖关系的时空高斯过程先验来建模动态目标函数。
• 采用组合核结构，结合平方指数与马氏-1/2协方差函数，分别处理空间与时间分量，以应对平滑与突变变化。
• 引入时间相关系数 α 以控制最小值演化的趋势持续性，实现对非平稳动态的自适应追踪。
• 设计一种获取函数，平衡探索与利用，同时考虑时间不确定性与随时间的期望改进。
• 通过超参数推断估计目标函数变化的时间尺度，动态确定评估时机与频率。
• 通过基于估计变化速率与可用信息的步长预算，实现预算感知的优化。

实验结果

研究问题

• RQ1 如何将贝叶斯优化扩展以高效追踪时变目标函数中的移动最优解？
• RQ2 何种建模方法可有效学习昂贵评估的动态问题中的时间动态？
• RQ3 能否利用时间相关性以减少追踪动态最小值所需的函数评估次数？
• RQ4 与标准贝叶斯优化和非贝叶斯元启发式方法相比，该方法在数据效率与收敛速度方面表现如何？
• RQ5 该方法在无需事先知晓时间演化模式的情况下，能在多大程度上自动调度评估？

主要发现

• 在移动峰基准测试中，ABO 在显著更少的函数评估次数下优于标准贝叶斯优化与非贝叶斯元启发式方法，表现更优。
• 在合成移动峰问题中，ABO-f 在所有方法中实现了最佳平均性能，展现出对目标函数突变的鲁棒性。
• ABO-t 由于时间长度尺度超参数较短，比固定间隔方法多使用 40% 的步数，证实了其对快速动态的自适应评估策略。
• 在真实世界温度传感器数据集中，ABO 实现了最佳平均离线性能，优于所有其他方法，包括其他基于贝叶斯优化的方法。
• 使用时空高斯过程先验有效建模了平滑与非平滑的时间动态，从而实现更优的追踪精度与数据效率。
• 该方法通过学习时间演化模式成功诱导了合适的评估预算，在减少不必要的评估的同时保持对全局最小值的紧密追踪。