[论文解读] Nearly Linear Time Algorithms and Lower Bound for Submodular Maximization

Wenxin Li, Ness B. Shroff|arXiv (Cornell University)|Apr 22, 2018

Complexity and Algorithms in Graphs参考文献 1被引用 2

一句话总结

本文提出了近乎线性时间的约束子模最大化算法，实现了近乎最优的近似比：在基数约束下为(1−1/e−ε)，在单 knapsack 约束下为(7/16−ε)，查询次数为O(n·max{ε⁻¹,log log n})。提出了一种自适应递减阈值技术，使在两轮流处理中实现常数近似成为可能，并建立了(1/4+ε)-近似无约束最大化问题的查询复杂度下限为ω(n/log n)。

ABSTRACT

In this work, we study constrained submodular maximization problems and design algorithms that improve the state-of-the-art performance guarantees. We first present a linear query complexity algorithm that achieves the approximation ratio of $(1-1/e-\varepsilon)$ for cardinality constraint and monotone objective. To the best of our knowledge, this is the first deterministic algorithm that achieves the almost optimal approximation using linear number of function evaluations. We next study the single knapsack constraint and achieve an approximation of $(7/16-\varepsilon)$ by $O(n\cdot \max\{\varepsilon^{-1},\log\log n\})$ queries. We note that in streaming setting our algorithm only requires two passes over the stream. The double logarithmic factor comes from our \emph{adaptive decreasing threshold} algorithm that is used to obtain a constant approximation of the optimal objective value. Furthermore, we show that there is an $(1/2-\varepsilon)$-approximate deterministic algorithm for constant number of binary packing constraints, which only makes $O_{\varepsilon}(\log \log n)$ queries per element. Lastly we present an improved algorithm for the intersection of $p$-system and $d$ knapsack constraint, which achieves an approximation ratio of $1/(p+\frac{7}{4}d+1)-\varepsilon$. In addition, a similar result can be obtained for non-monotone objective function. Query complexity lower bound of submodular maximization problems is also studied in this paper. We show that there exists no (randomized) $(1/4+\varepsilon)$-approximate algorithm using $o(n/\log n)$ queries for unconstrained submodular maximization. Combining with existing results, we present a complete characterization of the query complexity of unconstrained submodular maximization.

研究动机与目标

• 设计用于约束子模最大化的确定性算法，以线性或近乎线性的时间复杂度实现近乎最优的近似比。
• 填补在各种约束下（包括基数、背包、p-system/d-knapsack 交集）单调与非单调子模函数的确定性算法研究空白。
• 开发高效流处理算法，以最少的轮次和查询开销处理单个背包与多重打包约束。
• 为无约束子模最大化问题建立紧致的查询复杂度下界，刻画高效近似算法的极限。

提出的方法

• 提出一种新颖的自适应递减阈值算法，对每个元素仅需O(log log n)次查询即可估计最优解值，从而在流处理环境中实现常数近似。
• 采用基于阈值的贪心选择策略，根据估计的最优值动态调整，减少查询使用量，同时保持近似保证。
• 提出一种两轮流处理算法，用于单个背包约束，实现(7/16−ε)-近似，查询次数为O(n·max{ε⁻¹,log log n})。
• 应用递归划分与阈值技术处理多个二元打包约束，实现(1/2−ε)-近似，每个元素的查询次数为Oε(log log n)。
• 将框架扩展至处理p-system与d-knapsack约束的交集，实现(1/(p+7/4 d+1)−ε)-近似比。
• 通过信息论论证建立查询复杂度下界，表明任何(随机化)的(1/4+ε)-近似算法在无约束最大化问题中无法使用o(n/log n)次查询。

实验结果

研究问题

• RQ1 能否设计一种确定性算法，在仅使用O(n)次查询的前提下，实现单调子模最大化在基数约束下的(1−1/e−ε)-近似？
• RQ2 在流处理模型中，实现单个背包约束下子模最大化的常数近似，其最小查询复杂度是多少？
• RQ3 如何高效处理多个二元打包约束，同时保持每个元素的低查询复杂度？
• RQ4 对于近似比高于1/4的无约束子模最大化问题，最紧致的查询复杂度下界是什么？
• RQ5 该框架能否扩展至处理p-system与d-knapsack约束的交集，并获得可量化的近似比？

主要发现

• 本文首次提出确定性算法，在仅使用O(n)次查询的前提下，实现单调子模最大化在基数约束下的(1−1/e−ε)-近似。
• 对于单个背包约束，算法在流处理模型中仅需两轮处理，使用O(n·max{ε⁻¹,log log n})次查询，实现(7/16−ε)-近似。
• 提出一种新颖的自适应递减阈值技术，使在常数个二元打包约束下，每个元素仅需O(log log n)次查询即可实现常数近似。
• 针对p-system与d-knapsack约束交集的算法，实现(1/(p+7/4 d+1)−ε)-近似比，且可扩展至非单调目标函数。
• 本文建立了无约束子模最大化问题中任意(随机化)(1/4+ε)-近似算法的查询复杂度下界为ω(n/log n)，完整刻画了该问题的查询复杂度特性。