[论文解读] Submodular Maximization Beyond Non-negativity: Guarantees, Fast Algorithms, and Applications

Christopher Harshaw, Moran Feldman+2 more|arXiv (Cornell University)|Apr 19, 2019

Complexity and Algorithms in Graphs参考文献 32被引用 46

一句话总结

论文在基数约束（以及无约束）设定下，为最大化 g(S) − c(S) 开发快速算法，其中 g 为非负单调且 γ-弱次模，c 为非负模性；它实现了 (1−e^{−γ}−ε) g(OPT) − c(OPT) 的保证，运行时间与 k 无关，并且包含 γ-未知处理以及匹配的困难性结果。

ABSTRACT

It is generally believed that submodular functions -- and the more general class of $γ$-weakly submodular functions -- may only be optimized under the non-negativity assumption $f(S) \geq 0$. In this paper, we show that once the function is expressed as the difference $f = g - c$, where $g$ is monotone, non-negative, and $γ$-weakly submodular and $c$ is non-negative modular, then strong approximation guarantees may be obtained. We present an algorithm for maximizing $g - c$ under a $k$-cardinality constraint which produces a random feasible set $S$ such that $\mathbb{E} \left[ g(S) - c(S) ight] \geq (1 - e^{-γ} - ε) g(OPT) - c(OPT)$, whose running time is $O (\frac{n}ε \log^2 \frac{1}ε)$, i.e., independent of $k$. We extend these results to the unconstrained setting by describing an algorithm with the same approximation guarantees and faster $O(\frac{n}ε \log\frac{1}ε)$ runtime. The main techniques underlying our algorithms are two-fold: the use of a surrogate objective which varies the relative importance between $g$ and $c$ throughout the algorithm, and a geometric sweep over possible $γ$ values. Our algorithmic guarantees are complemented by a hardness result showing that no polynomial-time algorithm which accesses $g$ through a value oracle can do better. We empirically demonstrate the success of our algorithms by applying them to experimental design on the Boston Housing dataset and directed vertex cover on the Email EU dataset.

研究动机与目标

• 促使并解决目标函数不非负的优化问题，将其表达为 f = g − c，其中 g 为非负单调 γ-弱次模，c 为非负模性。
• 提供对 g−c 在基数约束下最大化的快速算法，具有强近似保证。
• 将结果扩展到无约束设定并分析运行时间效率。
• 引入一个困难性结果，显示多项式时间值查询方法的界限。

提出的方法

• 引入一个扭曲的代理目标 Φ，在算法进展中对 g 和 c 重新加权：Φ_i(T) = (1−γ/k)^{k−i} g(T) − c(T).
• 定义 Ψ_i(T, e) = max{0, (1−γ/k)^{k−(i+1)} g(e|T) − c_e}.
• 开发 Distorted Greedy，在每次迭代中添加使扭曲增益最大的元素，且仅在扭曲增益为正时才接受。
• 引入随机扭曲贪婪算法，方法是在基集合中抽取子集 B_i 以减少评估，同时保持保证。
• 提供 γ-Sweep 元算法，通过几何地扫描候选 γ 值并选择最佳结果解来处理未知 γ。
• 证明一个匹配的困难性结果，表明没有多项式时间的值查询算法能够优于所给出的保证。

实验结果

研究问题

• RQ1 当 g 为 γ-弱次模且 c 为非负模性时，是否可以实现对 g(S) − c(S) 的非平凡近似保证？
• RQ2 如何设计运行时间与 k 无关的快速算法，用于 g−c 的基数约束最大化？
• RQ3 当 γ 未知时可以实现什么，以及如何鲁棒地估计或适应 γ？
• RQ4 是否存在多项式时间值查询方法的困难屏障？
• RQ5 这些方法在实际任务如实验设计和图问题中是否表现良好？

主要发现

• Distorted Greedy 在已知 γ 下以 O(nk) 次评估达到 (1 − e^{−γ}) g(OPT) − c(OPT)。
• Stochastic Distorted Greedy 在期望下保持相同保证，评估次数为 O(n log(1/ε))。
• 无约束 Distorted Greedy 以 O(n) 评估实现相同近似。
• 当 γ 未知时，γ-Sweep 以 O((1/δ) log(1/δ)) 的乘法开销，在子程序调用次数上给出接近 γ 的保证。
• 一个困难性结果表明对 γ-弱次模函数不存在超出这些保证的多项式时间值查询算法。
• 在 Boston Housing（实验设计）和 Email EU（有向顶点覆盖）上的实验证明实际有效性。