[论文解读] Fast Non-Monotone Submodular Maximisation Subject to a Matroid Constraint

Pau Segui‐Gasco, Hyo‐Sang Shin|arXiv (Cornell University)|Mar 17, 2017

Complexity and Algorithms in Graphs参考文献 22被引用 5

一句话总结

本文提出了首个针对在拟阵约束下的非负非单调子模最大化问题的实用 $(\frac{1}{e} - \epsilon)$-近似算法。通过结合递减阈值过程与平滑化的测量连续贪心方法，该算法实现了 $O\left(\frac{nr^2}{\epsilon^4}\left(\frac{\bar{d} + \underline{d}}{\bar{d}}\right)^2 \log^2\left(\frac{n}{\epsilon}\right)\right)$ 次价值预言机调用，显著提升了先前连续贪心方法的效率。

ABSTRACT

In this work we present the first practical $\left(\frac{1}{e}-ε ight)$-approximation algorithm to maximise a general non-negative submodular function subject to a matroid constraint. Our algorithm is based on combining the decreasing-threshold procedure of Badanidiyuru and Vondrak (SODA 2014) with a smoother version of the measured continuous greedy algorithm of Feldman et al. (FOCS 2011). This enables us to obtain an algorithm that requires $O(\frac{nr^2}{ε^4} \big(\frac{a+b}{a}\big)^2 \log^2({\frac{n}ε}))$ value oracle calls, where $n$ is the cardinality of the ground set, $r$ is the matroid rank, and $ b, a \in \mathbb{R}^+$ are the absolute values of the minimum and maximum marginal values that the function $f$ can take i.e.: $ -b \leq f_S(i) \leq a$, for all $i\in E$ and $S\subseteq E$, (here, $E$ is the ground set). The additional value oracle calls with respect to the work of Badanidiyuru and Vondrak come from the greater spread in the sampling of the multilinear extension that the possibility of negative marginal values introduce.

研究动机与目标

• 开发一种针对一般非负子模函数在拟阵约束下最大化问题的实用且高效的近似算法。
• 弥合非单调子模优化中理论保证与实际应用之间的差距。
• 降低现有连续贪心算法的高计算成本，这些算法需要 $O(n^6)$ 到 $O(n^8)$ 次预言机调用。
• 将此前仅用于单调函数的递减阈值框架扩展至具有负边际值的非单调场景。
• 实现在大规模领域（如机器学习和摘要生成）中子模最大化算法的可扩展应用。

提出的方法

• 该算法结合了 Badanidiyuru 和 Vondrak (2014) 提出的递减阈值过程与 Feldman 等人 (2011) 的测量连续贪心算法的平滑版本。
• 采用递减阈值策略以减少连续贪心过程中的步骤数和采样需求。
• 该方法引入了一种针对多线性扩展的平滑更新规则，以应对负边际值的存在，从而提高采样稳定性。
• 将价值预言机调用次数限制在 $O\left(\frac{nr^2}{\epsilon^4}\left(\frac{\bar{d} + \underline{d}}{\bar{d}}\right)^2 \log^2\left(\frac{n}{\epsilon}\right)\right)$ 以内，其中 $\bar{d}$ 和 $\underline{d}$ 分别为最大和最小绝对边际值。
• 该算法执行 $O\left(\frac{n}{\epsilon^2}\log\frac{r}{\epsilon}\right)$ 次独立性预言机调用，利用拟阵结构实现高效的可行性检查。
• 通过受控方差的采样方式对多线性扩展进行采样，每轮估计使用 $O\left(\frac{r^2}{\epsilon^2}\left(\frac{\bar{d} + \underline{d}}{\bar{d}}\right)^2 \log n\right)$ 次采样。

实验结果

研究问题

• RQ1 递减阈值框架能否被适配到具有负边际值的非单调子模函数上？
• RQ2 在拟阵约束下，实现非单调子模最大化问题的 $(\frac{1}{e} - \epsilon)$-近似所需的最少价值预言机调用次数是多少？
• RQ3 如何对测量连续贪心算法进行平滑化处理，以应对负边际值带来的方差增加？
• RQ4 能否在不牺牲近似保证的前提下降低连续贪心方法的计算成本？
• RQ5 在非单调设置下，是否可能在显著减少预言机查询次数的同时保持较高的近似质量？

主要发现

• 所提出的算法在拟阵约束下对一般非负子模函数实现了 $(\frac{1}{e} - \epsilon)$-近似，达到了目前已知的最佳理论界。
• 其价值预言机调用次数为 $O\left(\frac{nr^2}{\epsilon^4}\left(\frac{\bar{d} + \underline{d}}{\bar{d}}\right)^2 \log^2\left(\frac{n}{\epsilon}\right)\right)$，这是实现该近似比的最快已知运行时间。
• 独立性预言机调用次数为 $O\left(\frac{n}{\epsilon^2}\log\frac{r}{\epsilon}\right)$，使其在大规模基集上具备可扩展性。
• 该算法的性能对比例 $\frac{\bar{d} + \underline{d}}{\bar{d}}$ 敏感，该比例反映了边际值的分布范围，当存在负值时会增加采样成本。
• 通过使用递减阈值策略，与标准连续贪心相比，该方法在每步中减少了采样次数，从而提升了效率。
• 该算法是首个在拟阵约束下实现非单调子模最大化问题 $(\frac{1}{e} - \epsilon)$-近似的实用实现。