[论文解读] Regret analysis of the Piyavskii-Shubert algorithm for global Lipschitz optimization

Clément Bouttier, Tommaso Cesari+2 more|arXiv (Cornell University)|Feb 6, 2020

Advanced Bandit Algorithms Research参考文献 34被引用 4

一句话总结

本文首次对全局Lipschitz优化中的Piyavskii-Shubert算法进行了遗憾分析，为非认证与认证两种情形建立了紧致的样本复杂度边界。通过利用函数层的打包数，证明了该算法通过近似最优性能，解决了Hansen等人（1991年）提出的关于认证复杂度的开放问题。

ABSTRACT

We consider the problem of maximizing a non-concave Lipschitz multivariate function over a compact domain by sequentially querying its (possibly perturbed) values. We study a natural algorithm designed originally by Piyavskii and Shubert in 1972, for which we prove new bounds on the number of evaluations of the function needed to reach or certify a given optimization accuracy. Our analysis uses a bandit-optimization viewpoint and solves an open problem from Hansen et al.\\ (1991) by bounding the number of evaluations to certify a given accuracy with a near-optimal sum of packing numbers.

研究动机与目标

• 分析在序列黑箱访问下，Piyavskii-Shubert算法在全局Lipschitz优化中的样本复杂度。
• 解决Hansen等人（1991年）提出的关于为保证给定优化精度所需评估次数的开放问题。
• 建立在非认证与认证两种变体中实现ε-最优性所需函数评估次数的边界。
• 通过一种涉及目标函数分层的新型分析方法，证明算法能够适应多种形状与尺度。

提出的方法

• 该算法使用一个分段二次代理函数，基于Lipschitz连续性与历史评估值，对未知函数进行上界逼近。
• 在每轮中，下一个查询点被选为代理函数的最大化点，从而确保搜索过程的逐步精细化。
• 对于认证算法，误差证书被计算为代理函数与当前推荐值之间的最大差值。
• 该分析引入了函数层打包数之和的新型积分表示，替代了近似最优集合，以提升自适应能力。
• 该方法借助bandit-优化视角，推导出简单遗憾与认证误差的边界。
• 证明样本复杂度与函数层打包数之和成比例，实现了近似最优性。

实验结果

研究问题

• RQ1 在非认证情形下，为实现ε-最优性，Piyavskii-Shubert算法的样本复杂度是多少？
• RQ2 在认证情形下，需要多少次评估才能证明某个推荐结果为ε-最优？
• RQ3 能否使用函数层的打包数而非近似最优集合来界定算法性能？
• RQ4 Piyavskii-Shubert算法在认证与非认证两种情形下是否均实现了近似最优的样本复杂度？
• RQ5 在Lipschitz约束下，该算法如何适应目标函数的不同形状与尺度？

主要发现

• 本文证明，在非认证情形下，实现ε-最优性所需的评估次数被函数层打包数之和所界定。
• 在认证情形下，为认证ε-最优性所需评估次数被近似最优的打包数之和所界定，解决了Hansen等人（1991年）提出的开放问题。
• 分析表明，算法性能通过基于分层的打包数，自适应于目标函数的内在几何结构。
• 边界在对数因子范围内是紧致的，并优于以往按n⁻¹/d量级增长的最坏情况边界。
• 认证版本的算法实现了与实例相关下界相差常数因子的样本复杂度，如Bachoc等人[2]的相关工作所示。
• 该方法提供了打包数之和的积分表示，相比先前工作，显著改善了表示中的乘法常数。