[论文解读] Regret Analysis of Global Optimization in Univariate Functions with Lipschitz Derivatives

Kaan Gökcesu, Hakan Gökcesu|arXiv (Cornell University)|Aug 24, 2021

Advanced Bandit Algorithms Research参考文献 48被引用 4

一句话总结

本文分析了在使用 Piyavskii-Shubert 等下界算法进行单变量函数全局优化时的累积遗憾。对于参数为 $L$ 的利普希茨连续函数，建立了 $O(L\log T)$ 的累积遗憾；对于参数为 $H$ 的利普希茨光滑函数，实现了 $O(H)$ 的遗憾，该结果可推广至更广泛的函数类。

ABSTRACT

In this work, we study the problem of global optimization in univariate loss functions, where we analyze the regret of the popular lower bounding algorithms (e.g., Piyavskii-Shubert algorithm). For any given time $T$, instead of the widely available simple regret (which is the difference of the losses between the best estimation up to $T$ and the global optimizer), we study the cumulative regret up to that time. With a suitable lower bounding algorithm, we show that it is possible to achieve satisfactory cumulative regret bounds for different classes of functions. For Lipschitz continuous functions with the parameter $L$, we show that the cumulative regret is $O(L\log T)$. For Lipschitz smooth functions with the parameter $H$, we show that the cumulative regret is $O(H)$. We also analytically extend our results for a broader class of functions that covers both the Lipschitz continuous and smooth functions individually.

研究动机与目标

• 分析单变量函数全局优化中的累积遗憾，超越简单的遗憾衡量。
• 评估 Piyavskii-Shubert 等下界算法在最小化累积遗憾方面的性能。
• 推导具有利普希茨连续导数和利普希茨光滑导数函数的紧致遗憾边界。
• 将分析扩展至更广泛的函数类，该类函数推广了利普希茨连续和光滑函数。

提出的方法

• 采用累积遗憾框架而非简单遗憾，衡量时间 $T$ 内的总损失。
• 应用基于导数利普希茨约束构建置信区间的下界算法。
• 以 Piyavskii-Shubert 算法为核心方法，在导数利普希茨假设下进行函数逼近。
• 通过分析下界收敛至全局最小值的速率，推导遗憾边界。
• 通过结合利普希茨连续性和光滑性特征，将结果推广至更广泛的函数类。

实验结果

研究问题

• RQ1 下界算法在单变量全局优化中的累积遗憾行为如何？
• RQ2 对于参数为 $L$ 的利普希茨连续函数，累积遗憾如何随时间 $T$ 变化？
• RQ3 对于参数为 $H$ 的利普希茨光滑函数，累积遗憾边界是什么？
• RQ4 该遗憾分析能否推广至同时包含利普希茨连续和光滑函数的更广泛函数类？

主要发现

• 对于导数为参数 $L$ 的利普希茨连续的单变量函数，累积遗憾被限制在 $O(L\log T)$ 以内。
• 对于导数为参数 $H$ 的利普希茨光滑函数，累积遗憾被限制在 $O(H)$ 以内，且与 $T$ 无关。
• 遗憾边界通过利用导数利普希茨约束来细化搜索区间的下界算法推导得出。
• 该分析可扩展至更广泛的函数类，该类函数推广了利普希茨连续和光滑函数，且保持相同的遗憾阶。