[论文解读] An Accelerated Method for Derivative-Free Smooth Stochastic Convex Optimization

Eduard Gorbunov, Pavel Dvurechensky+1 more|arXiv (Cornell University)|Feb 25, 2018

Stochastic Gradient Optimization Techniques被引用 5

一句话总结

该论文提出了一种针对具有两点反馈和不精确函数评估的平滑随机凸优化问题的加速无导数算法，其中噪声同时包含随机分量和有界对抗性分量。该方法的复杂度界仅比加速梯度方法差一个√n因子，且出人意料的是，使用ℓ¹-范数邻近设置相比标准ℓ²-范数设置能获得更优的收敛速率，尤其在解为稀疏时表现更佳。

ABSTRACT

We consider an unconstrained problem of minimizing a smooth convex function which is only available through noisy observations of its values, the noise consisting of two parts. Similar to stochastic optimization problems, the first part is of stochastic nature. The second part is additive noise of unknown nature, but bounded in absolute value. In the two-point feedback setting, i.e. when pairs of function values are available, we propose an accelerated derivative-free algorithm together with its complexity analysis. The complexity bound of our derivative-free algorithm is only by a factor of $\sqrt{n}$ larger than the bound for accelerated gradient-based algorithms, where $n$ is the dimension of the decision variable. We also propose a non-accelerated derivative-free algorithm with a complexity bound similar to the stochastic-gradient-based algorithm, that is, our bound does not have any dimension-dependent factor except logarithmic. Notably, if the difference between the starting point and the solution is a sparse vector, for both our algorithms, we obtain a better complexity bound if the algorithm uses an $1$-norm proximal setup, rather than the Euclidean proximal setup, which is a standard choice for unconstrained problems

研究动机与目标

• 解决在同时存在随机噪声和对抗性噪声分量的噪声函数评估下，无导数随机凸优化的挑战。
• 设计一种在两点反馈模型下运行的高效算法，其中仅可访问成对的噪声函数值。
• 在缺乏梯度信息的情况下，实现接近加速梯度方法的复杂度界。
• 研究邻近设置选择（ℓ¹ 与 ℓ²）对收敛速率的影响，特别是在稀疏解情形下。
• 在不同噪声水平和高维问题下，验证所提方法的鲁棒性。

提出的方法

• 提出一种新颖的加速无导数算法，利用两点反馈预言机，可同时返回两个点的噪声函数值。
• 引入基于ℓ¹-范数的邻近设置，当初始点与解之间的差异为稀疏向量时，可获得更优的复杂度界。
• 在目标函数为平滑（L₂-平滑）且随机梯度具有有界方差的假设下分析该算法。
• 引入有界对抗性噪声分量η(x,ξ)，满足|η(x,ξ)| ≤ Δ，用于建模测量误差或舍入误差。
• 建立加速方法的复杂度界，其与最优已知梯度加速方法的复杂度界仅相差一个√n因子。
• 提供一种非加速变体，其复杂度界与标准随机梯度方法一致，仅在对数项外无维度相关因子。

实验结果

研究问题

• RQ1 在同时存在随机噪声和有界对抗性噪声的条件下，无导数加速算法能否实现接近加速梯度方法的复杂度？
• RQ2 在无导数优化中，邻近设置选择（ℓ¹ 与 ℓ²）如何影响收敛速率，特别是在解为稀疏时？
• RQ3 对抗性噪声（有界但未知）对无导数随机优化算法的性能有何影响？
• RQ4 当对抗性噪声水平Δ远大于理论分析所预测的上界时，所提方法是否仍能保持良好的收敛特性？
• RQ5 在高维设置下，所提算法如何随问题维度n的增加而扩展？

主要发现

• 尽管未使用梯度信息，加速无导数算法的复杂度界仅比最优已知加速梯度方法差一个√n因子。
• 非加速无导数算法的复杂度界与标准随机梯度方法一致，且仅在对数项外无维度相关因子。
• 令人惊讶的是，当初始点与解之间的差异为稀疏向量时，ℓ¹-范数邻近设置相比标准ℓ²-范数设置能获得更优的复杂度界。
• 数值实验表明，即使对抗性噪声Δ远大于理论预测的上界，算法仍能成功收敛至ε-解（ε = 10⁻³）。
• 该方法在不同问题维度（n = 100 至 5000）和数据集（包括LIBSVM库中的逻辑回归问题）下均表现出良好的鲁棒性。
• 在逻辑回归实验中，ℓ¹-邻近设置在所有测试数据集中始终表现最佳或接近最佳。