[论文解读] Conditional Gradient Method for Stochastic Submodular Maximization: Closing the Gap

Aryan Mokhtari, Hamed Hassani+1 more|arXiv (Cornell University)|Nov 5, 2017

Complexity and Algorithms in Graphs参考文献 37被引用 9

一句话总结

本文提出了一种新型条件梯度方法——随机连续梯度（Stochastic Continuous Greedy, SCG），用于在凸体约束下进行随机连续子模最大化。该方法在期望下实现了紧致的$(1-1/e)$近似保证，仅需$ olimits\mathcal{O}(1/ olimits\epsilon^3)$次随机梯度计算，弥合了确定性与随机设置之间的差距，并首次在拟阵约束下实现了对随机子模集合函数的$(1-1/e)$-近似。

ABSTRACT

In this paper, we study the problem of extit{constrained} and extit{stochastic} continuous submodular maximization. Even though the objective function is not concave (nor convex) and is defined in terms of an expectation, we develop a variant of the conditional gradient method, called \alg, which achieves a extit{tight} approximation guarantee. More precisely, for a monotone and continuous DR-submodular function and subject to a extit{general} convex body constraint, we prove that \alg achieves a $[(1-1/e) ext{OPT} -\eps]$ guarantee (in expectation) with $\mathcal{O}{(1/\eps^3)}$ stochastic gradient computations. This guarantee matches the known hardness results and closes the gap between deterministic and stochastic continuous submodular maximization. By using stochastic continuous optimization as an interface, we also provide the first $(1-1/e)$ tight approximation guarantee for maximizing a extit{monotone but stochastic} submodular extit{set} function subject to a general matroid constraint.

研究动机与目标

• 通过在随机设置下实现紧致的$(1-1/e)$近似保证，弥合确定性与随机连续子模最大化之间的差距。
• 开发一种内存高效的随机优化方法，避免使用小批量（minibatching），转而对过去随机梯度进行平均。
• 通过连续松弛，将理论保证扩展至拟阵约束下的离散随机子模最大化。
• 为在一般凸体约束下、目标函数定义为期望值的单调、平滑、DR-子模函数，提供一个可证明收敛的算法。

提出的方法

• 提出随机连续梯度（SCG），一种条件梯度方法的变体，使用无偏随机梯度估计，且无需小批量处理。
• 采用递归平均策略，仅利用最近一次随机梯度与过去梯度的加权平均，来维持真实梯度的估计。
• 使用递减步长$\rho_t = \frac{4}{(t+8)^{2/3}}$，在随机设置中平衡收敛性与方差。
• 利用目标函数的DR-子模性和平滑性，推导出对Hessian近似的下界，从而支持收敛性分析。
• 通过泰勒展开和矩阵范数界，将函数值的增加与梯度方向及曲率关联，确保收敛至$(1-1/e)$-近似解。
• 利用多线性扩展框架，将连续随机子模优化与拟阵约束下的离散子模最大化联系起来。

实验结果

研究问题

• RQ1 随机版的条件梯度方法能否在凸约束下，对连续DR-子模最大化实现紧致的$(1-1/e)$近似保证？
• RQ2 所提出的SCG算法是否能在不使用小批量的情况下保持收敛性与近似质量，从而提升内存效率？
• RQ3 连续随机优化框架能否用于推导出在一般拟阵约束下，首次实现$(1-1/e)$-近似的离散随机子模最大化？
• RQ4 在仅能访问无偏梯度的情况下，随机子模优化中收敛速率与近似误差之间的最优权衡是什么？

主要发现

• 随机连续梯度在$ olimits\mathcal{O}(1/\nolimits\epsilon^3)$次随机梯度计算后，期望目标值至少为$(1-1/e)\text{OPT} - \epsilon$。
• 该方法匹配了已知的$(1-1/e)$下界，填补了确定性与随机连续子模最大化之间的理论空白。
• 该方法具有内存高效性，每次迭代仅需一次随机梯度，且无需小批量处理，优于以往的随机条件梯度方法。
• 分析建立了近似误差的收敛速率$ olimits\mathcal{O}(T^{-1/3})$，并显式体现了对函数曲率与定义域直径等问题参数的依赖关系。
• 该框架首次通过连续松弛，实现了对单调随机子模集合函数在一般拟阵约束下的$(1-1/e)$-近似。