[论文解读] Global optimization of Lipschitz functions

Cédric Malherbe, Nicolas Vayatis|arXiv (Cornell University)|Mar 7, 2017

Advanced Bandit Algorithms Research参考文献 19被引用 53

一句话总结

本文设计了用于优化未知 Lipschitz 函数的序贯策略，证明了一致性和极小极大（minimax）速率，并引入具有理论保证的自适应和固定 Lipschitz 常数算法。

ABSTRACT

The goal of the paper is to design sequential strategies which lead to efficient optimization of an unknown function under the only assumption that it has a finite Lipschitz constant. We first identify sufficient conditions for the consistency of generic sequential algorithms and formulate the expected minimax rate for their performance. We introduce and analyze a first algorithm called LIPO which assumes the Lipschitz constant to be known. Consistency, minimax rates for LIPO are proved, as well as fast rates under an additional Hölder like condition. An adaptive version of LIPO is also introduced for the more realistic setup where the Lipschitz constant is unknown and has to be estimated along with the optimization. Similar theoretical guarantees are shown to hold for the adaptive LIPO algorithm and a numerical assessment is provided at the end of the paper to illustrate the potential of this strategy with respect to state-of-the-art methods over typical benchmark problems for global optimization.

研究动机与目标

• 在高成本评估下，激发优化具有有限 Lipschitz 常数的未知函数的问题。
• 刻画任何序贯优化算法在 Lipschitz 函数族上的可达到的性能。
• 开发并分析一个算法（LIPO），利用已知的 Lipschitz 常数实现高效的全局优化。
• 将 LIPO 扩展到未知 Lipschitz 的情形，提供一个自适应版本（AdaLIPO），该版本在线估计 Lipschitz 常数。
• 提供理论保证（一致性、minimax 速率、快速率）及与最先进方法的实证对比示例。

提出的方法

• 给出一个紧致定义域和 Lipschitz 函数族 Lip(k) 的优化框架。
• 引入 LIPO：对 X_t+1 进行均匀采样，只有当由先前观测值推导出的上界 UB_k,t(x) 可能改进当前最佳值时才进行评估。
• 证明 LIPO 对 Lip(k) 的一致性，并在最大值附近满足 Decreasing rate around the maximum (κ) 条件时推导有限时间界限和快速速率。
• 扩展到 AdaLIPO：一种通过网格估计 Lipschitz 常数的自适应方案，并在探索与开发之间交替。
• 给出与 Piyavskii/DOO 及 Pure Random Search 的比较，包括速率和常数的讨论。

实验结果

研究问题

• RQ1 在全局优化的 Lipschitz 函数类上，任何算法能达到的最小性能是什么？
• RQ2 如何设计高效的序贯策略以利用全局 Lipschitz 光滑性来提高收敛速率？
• RQ3 固定 Lipschitz 常数的方法（LIPO）能否在全局光滑问题上实现极小极大最优性和指数级的快速速率？
• RQ4 是否可以开发一个在优化过程中学习 Lipschitz 常数且保持一致性保证的自适应方法（AdaLIPO）？
• RQ5 所提出的方法在理论和经验上如何与现有方法如 Piyavskii、DOO 以及 PURE RANDOM SEARCH 相比？

主要发现

• 本文给出序贯优化在 Lipschitz 函数族上的一致性的必要且充分条件。
• 对于 Lip(k)，极小极大收敛速率阶为 n^{-1/d}，在标准条件下 LIPO 达到这一速率并具有匹配的上界。
• 在最大值附近满足 Decreasing rate around the maximum 条件 (κ ≥ 1) 的情况下，LIPO 达到快速速率，包括 κ = 1 的指数衰减和 κ > 1 情况。
• AdaLIPO 将 LIPO 扩展到未知 Lipschitz 常数，保留类似的理论保证，并对相关 Lipschitz 类有一致的恢复。
• 与 DOO 和 Piyavskii 相比，LIPO 利用全局光滑性在理论上优于纯随机搜索，并在经验上显示出有利的性能。
• 结果包括有限时间界、 一致性证明，以及示例（sphere、线性、最大坐标函数）来展示速率。