[论文解读] Zeroth-order (Non)-Convex Stochastic Optimization via Conditional Gradient and Gradient Updates

Krishnakumar Balasubramanian, Saeed Ghadimi|arXiv (Cornell University)|Sep 17, 2018

Stochastic Gradient Optimization Techniques参考文献 28被引用 3

一句话总结

本文提出了一类零阶随机优化算法，结合了条件梯度与梯度更新，适用于凸与非凸问题，仅使用函数评估即实现了与标准随机梯度方法相当的收敛速率。在结构稀疏性假设下，通过步长调节展示了隐式正则化效果，并提出了一种截断算法，其维度依赖关系为对数多倍。

ABSTRACT

In this paper, we propose and analyze zeroth-order stochastic approximation algorithms for nonconvex and convex optimization. Specifically, we propose generalizations of the conditional gradient algorithm achieving rates similar to the standard stochastic gradient algorithm using only zeroth-order information. Furthermore, under a structural sparsity assumption, we first illustrate an implicit regularization phenomenon where the standard stochastic gradient algorithm with zeroth-order information adapts to the sparsity of the problem at hand by just varying the stepsize. Next, we propose a truncated stochastic gradient algorithm with zeroth-order information, whose rate depends only poly-logarithmically on the dimensionality.

研究动机与目标

• 开发仅依赖函数评估而无需梯度信息的零阶随机优化算法，使其收敛速率与标准随机梯度方法相当。
• 分析在结构稀疏性假设下，零阶随机梯度方法的隐式正则化效应。
• 设计一种仅依赖零阶信息的截断随机梯度算法，其维度依赖关系仅为对数多倍。
• 将条件梯度方法推广至零阶设置，适用于非凸与凸优化问题。

提出的方法

• 通过仅使用函数评估，将条件梯度算法推广至零阶设置，保持与一阶方法相当的收敛速率。
• 提出一种步长调节策略，诱导隐式正则化，使算法在无需显式稀疏性约束的情况下自适应于问题稀疏性。
• 提出一种截断随机梯度算法，限制高维分量的影响，将维度依赖关系降低至对数多倍尺度。
• 利用零阶预言机通过有限差分估计梯度，实现在非凸与凸设置下的无梯度优化。
• 结合条件梯度更新与基于梯度的更新，以平衡收敛速度与稀疏性促进效果。

实验结果

研究问题

• RQ1 仅使用函数评估，零阶随机优化能否实现与一阶方法相当的收敛速率？
• RQ2 在结构稀疏性假设下，零阶随机梯度下降是否表现出隐式正则化？
• RQ3 截断的零阶随机梯度算法能否实现对数多倍而非线性的维度依赖？
• RQ4 步长与稀疏性之间的相互作用如何影响零阶优化中的收敛性？

主要发现

• 所提出的零阶条件梯度算法仅使用函数评估，其收敛速率与标准随机梯度方法相当。
• 在结构稀疏性下，零阶随机梯度下降通过步长调节实现对稀疏性的隐式自适应，无需显式正则化。
• 采用零阶信息的截断随机梯度算法实现了对数多倍的维度依赖，显著提升了可扩展性。
• 研究表明，零阶优化中的隐式正则化可自然地从算法设计与步长控制中产生。