[论文解读] Gradient-free two-points optimal method for non smooth stochastic convex optimization problem with additional small noise

Anastasia Bayandina, Alexander Gasnikov+2 more|arXiv (Cornell University)|Jan 13, 2017

Stochastic Gradient Optimization Techniques参考文献 7被引用 7

一句话总结

本文提出了一种无梯度、两点随机镜像下降算法，用于具有附加小噪声的非光滑随机凸优化。通过利用双重光滑化和不精确预言机技术，即使在无法获取梯度信息且存在噪声的情况下，也能实现最优收敛速率（最多为乘法常数因子），从而将最优方法的适用范围扩展至噪声环境和无导数设置。

ABSTRACT

Using double-smoothing technique and stochastic mirror descent with inexact oracle we built an optimal algorithm (up to a multiplicative factor) for two-points gradient-free non-smooth stochastic convex programming. We investigate how much can be the level of noise (the nature of this noise isn't necessary stochastic) for the rate of convergence to be maintained (up to a multiplicative factor).

研究动机与目标

• 开发一种在噪声条件下具有最优性能的无梯度非光滑随机凸优化算法。
• 分析在无梯度信息条件下，附加小噪声对收敛速率的影响。
• 将最优方法的适用范围扩展至仅能进行函数值查询的场景。
• 在存在噪声且无法访问梯度的情况下，保持收敛速率在乘法常数范围内。

提出的方法

• 该方法采用双重光滑化来正则化非光滑目标函数，从而支持使用随机镜像下降。
• 采用两点随机预言机，在两个扰动点处查询函数值以估计次梯度。
• 集成不精确预言机模型，以处理函数评估中的附加小噪声。
• 算法结合镜像下降与方差减少技术，确保在噪声和无梯度条件下实现收敛。
• 理论分析基于凸分析与随机优化框架，用于界定期望次优间隙的上界。
• 该方法设计为在指定噪声和预言机约束下，保持最优收敛速率（最多为乘法常数因子）。

实验结果

研究问题

• RQ1 在无梯度非光滑随机凸优化中，为保持最优收敛速率，可容忍的最大噪声水平（不一定是随机的）是多少？
• RQ2 能否为无梯度访问的非光滑随机问题构造出最优算法？
• RQ3 双重光滑化与不精确预言机如何协同作用，以在噪声下维持收敛性？
• RQ4 两点查询机制在存在小扰动时，能在多大程度上保持最优性？
• RQ5 当仅能获取函数值且存在噪声时，能否保持收敛速率在常数因子范围内？

主要发现

• 所提出的算法在无梯度访问条件下，实现了非光滑随机凸优化的最优收敛速率（最多为乘法常数因子）。
• 该方法在任意有界小噪声下均能保持收敛，无论噪声性质如何。
• 双重光滑化可将非光滑问题转化为适合镜像下降的光滑近似。
• 两点查询机制能以最少的函数评估次数有效近似次梯度，确保实用性。
• 不精确预言机模型允许对函数评估中的噪声具有鲁棒性，且不降低收敛速率。
• 理论分析证实，即使在噪声和无梯度条件下，该算法的收敛速率仍为最优（最多为常数因子）。