[论文解读] Black Box Submodular Maximization: Discrete and Continuous Settings

Lin Chen, Mingrui Zhang+2 more|arXiv (Cornell University)|Jan 28, 2019

Complexity and Algorithms in Graphs参考文献 68被引用 4

一句话总结

本文提出黑盒连续贪心（BCG），一种无需梯度、无投影的算法，通过仅使用函数评估来最大化单调连续DR-次模函数，约束条件为凸体。该算法在$ olimits\mathcal{O}(d/\epsilon^3)$次函数评估下，实现了紧致的$(1-1/e)\text{OPT} - \epsilon$近似，使得在无法计算梯度的场景中能够实现高效优化。

ABSTRACT

In this paper, we consider the problem of black box continuous submodular maximization where we only have access to the function values and no information about the derivatives is provided. For a monotone and continuous DR-submodular function, and subject to a bounded convex body constraint, we propose Black-box Continuous Greedy, a derivative-free algorithm that provably achieves the tight $[(1-1/e)OPT-ε]$ approximation guarantee with $O(d/ε^3)$ function evaluations. We then extend our result to the stochastic setting where function values are subject to stochastic zero-mean noise. It is through this stochastic generalization that we revisit the discrete submodular maximization problem and use the multi-linear extension as a bridge between discrete and continuous settings. Finally, we extensively evaluate the performance of our algorithm on continuous and discrete submodular objective functions using both synthetic and real data.

研究动机与目标

• 解决在仅可访问函数值、且梯度不可用或难以计算的情况下，最大化单调连续DR-次模函数的挑战。
• 开发一种无投影、无需梯度的算法，避免昂贵的投影操作，同时保持强理论保证。
• 将框架扩展至随机设置，并通过多线性扩展弥合连续与离散子模优化之间的鸿沟。
• 在合成数据和真实世界数据上实证验证该方法，证明其高效性与接近最优的性能。
• 为大规模机器学习中函数评估受限的场景，提供一种对一阶方法的实用替代方案。

提出的方法

• 提出黑盒连续贪心（BCG），一种零阶算法，通过随机方向采样和函数评估来估计子梯度方向，无需显式计算梯度。
• 采用类似Frank-Wolfe的线性最小化预言机，无需投影即可保持可行性，确保在一般凸体约束下的收敛性。
• 使用随机平滑技术通过有限差分估计方向导数，实现无梯度更新。
• 建立理论收敛性，证明在$ olimits\mathcal{O}(d/\epsilon^3)$次函数评估下，可实现单调DR-次模函数的$(1-1/e)\text{OPT} - \epsilon$近似。
• 将框架扩展至具有零均值噪声的随机设置，证明其鲁棒性并保持近似保证。
• 通过多线性扩展作为连续松弛，重新审视离散子模最大化问题，使BCG可应用于离散问题。

实验结果

研究问题

• RQ1 在凸约束下，无需梯度的算法能否实现单调连续DR-次模最大化问题的紧致$(1-1/e)$近似保证？
• RQ2 当梯度无法计算时，如何高效利用零阶信息来优化子模函数？
• RQ3 在函数评估中存在随机噪声的情况下，该算法能否保持理论保证？
• RQ4 在函数评估效率和运行时间方面，该方法相较于一阶和零阶基线方法的性能优势有多大？
• RQ5 通过多线性扩展，连续BCG框架能否在离散子模优化问题中实现有效应用？

主要发现

• BCG在$ olimits\mathcal{O}(d/\epsilon^3)$次函数评估下，实现了紧致的$(1-1/e)\text{OPT} - \epsilon$近似保证，与连续DR-次模最大化问题的最佳已知理论边界一致。
• 在合成与真实世界实验中，BCG获得的目标函数值与一阶方法（如SCG和GA）相当，但函数评估次数显著更少。
• 在所有任务中，BCG的运行速度至少是SCG和ZGA的两倍，得益于更廉价的零阶评估，展现出优越的运行效率。
• DBG（BCG的离散变体）在主动集选择和影响力最大化等离散任务中，所需函数查询次数显著少于ZGA，同时实现了具有竞争力的效用。
• 该算法在函数值和效率方面均优于ZGA，并且在函数查询成本大幅降低的情况下，其目标函数值与一阶方法相当或更优。
• 实证结果证实，BCG在函数评估或运行时间受限的大规模场景中具有显著优势。