[论文解读] Stochastic Conditional Gradient Methods: From Convex Minimization to Submodular Maximization

Aryan Mokhtari, Hamed Hassani+1 more|arXiv (Cornell University)|Apr 24, 2018

Stochastic Gradient Optimization Techniques被引用 11

一句话总结

本文提出了一种新颖的随机条件梯度方法，通过结合梯度平均与线性最小化，实现了对凸问题和连续子模问题的高效、无投影优化。该方法在凸最小化中实现了最优的 O(1/t^{1/3}) 收敛速率，在单调子模最大化中实现了 (1−1/e)OPT−ε 的近似保证，且仅需 O(1/ε³) 次随机梯度评估，填补了确定性与随机子模优化之间的差距。

ABSTRACT

This paper considers stochastic optimization problems for a large class of objective functions, including convex and continuous submodular. Stochastic proximal gradient methods have been widely used to solve such problems; however, their applicability remains limited when the problem dimension is large and the projection onto a convex set is costly. Instead, stochastic conditional gradient methods are proposed as an alternative solution relying on (i) Approximating gradients via a simple averaging technique requiring a single stochastic gradient evaluation per iteration; (ii) Solving a linear program to compute the descent/ascent direction. The averaging technique reduces the noise of gradient approximations as time progresses, and replacing projection step in proximal methods by a linear program lowers the computational complexity of each iteration. We show that under convexity and smoothness assumptions, our proposed method converges to the optimal objective function value at a sublinear rate of $O(1/t^{1/3})$. Further, for a monotone and continuous DR-submodular function and subject to a general convex body constraint, we prove that our proposed method achieves a $((1-1/e)OPT-\\eps)$ guarantee with $O(1/\\eps^3)$ stochastic gradient computations. This guarantee matches the known hardness results and closes the gap between deterministic and stochastic continuous submodular maximization. Additionally, we obtain $((1/e)OPT -\\eps)$ guarantee after using $O(1/\\eps^3)$ stochastic gradients for the case that the objective function is continuous DR-submodular but non-monotone and the constraint set is down-closed. By using stochastic continuous optimization as an interface, we provide the first $(1-1/e)$ tight approximation guarantee for maximizing a monotone but stochastic submodular set function subject to a matroid constraint and $(1/e)$ approximation guarantee for the non-monotone case.

研究动机与目标

• 为解决大规模问题中随机邻近梯度方法的投影步骤计算成本过高的问题。
• 开发一种收敛的、无投影的随机条件梯度方法，避免昂贵的投影操作，同时保持收敛性。
• 通过实现紧密的近似保证，弥合确定性与随机连续子模最大化之间的性能差距。
• 将随机连续优化扩展至具有拟阵约束的集合函数，首次为单调情形提供 (1−1/e) 的近似，为非单调情形提供 (1/e) 的近似。
• 在光滑性、凸性与子模性假设下，建立理论收敛速率与近似保证。

提出的方法

• 通过每次迭代仅进行一次随机梯度评估并简单平均来近似梯度，从而随时间降低噪声。
• 用线性规划子程序替代近端方法中的投影步骤，以降低每次迭代的复杂度。
• 采用递减步长 T 和类似线搜索的更新规则以确保收敛。
• 通过在约束集上进行线性最小化，获得基于曲率的下降方向以指导更新。
• 提出一种新颖的分析框架，结合梯度误差界与曲率项，推导出收敛速率。
• 将该方法应用于具有通用凸体约束的凸最小化与连续 DR-子模最大化问题。

实验结果

研究问题

• RQ1 能否设计一种随机条件梯度方法，使其在小批量设置下且无需投影步骤的情况下实现收敛？
• RQ2 随机条件梯度方法在凸最小化中可实现的最优收敛速率是什么？
• RQ3 能否在随机连续子模最大化中实现紧密的 (1−1/e) 近似保证？
• RQ4 该方法在非单调子模函数与一般拟阵约束下的表现如何？
• RQ5 能否利用随机连续优化推导出随机子模集合函数的近似保证？

主要发现

• 在光滑性与凸性假设下，所提方法在凸最小化中实现了 O(1/t^{1/3}) 的次线性收敛速率。
• 对于单调连续 DR-子模最大化，其在期望下实现了 (1−1/e)OPT−ε 的近似保证，且仅需 O(1/ε³) 次随机梯度计算。
• 对于在下闭凸体上的非单调连续 DR-子模函数，其在相同梯度复杂度下实现了 (1/e)OPT−ε 的保证。
• 该方法首次为在一般拟阵约束下最大化单调随机子模集合函数提供了 (1−1/e) 的近似保证。
• 同时，其首次为在拟阵约束下非单调随机子模集合函数提供了 (1/e) 的近似保证。
• 数值实验表明，其收敛速度优于现有的随机近端与条件梯度方法。