[论文解读] Resilient Monotone Submodular Function Maximization

Vasileios Tzoumas, Konstantinos Gatsis+2 more|arXiv (Cornell University)|Mar 21, 2017

Complexity and Algorithms in Graphs参考文献 32被引用 4

一句话总结

该论文提出了一种可扩展的近似算法，用于在对抗性故障或攻击下实现鲁棒的单调亚模函数最大化，利用函数曲率获得更优的近似保证。该算法对任意数量的故障 β 和选择 α 均保持有效，函数评估次数为 O(|V|(α−β))，且在低曲率函数下获得更优的近似比。

ABSTRACT

In this paper, we focus on applications in machine learning, optimization, and control that call for the resilient selection of a few elements, e.g. features, sensors, or leaders, against a number of adversarial denial-of-service attacks or failures. In general, such resilient optimization problems are hard, and cannot be solved exactly in polynomial time, even though they often involve objective functions that are monotone and submodular. Notwithstanding, in this paper we provide the first scalable, curvature-dependent algorithm for their approximate solution, that is valid for any number of attacks or failures, and which, for functions with low curvature, guarantees superior approximation performance. Notably, the curvature has been known to tighten approximations for several non-resilient maximization problems, yet its effect on resilient maximization had hitherto been unknown. We complement our theoretical analyses with supporting empirical evaluations.

研究动机与目标

• 解决选择一组鲁棒元素（如传感器、特征、领导者）的挑战，确保在 β 个对抗性移除或故障后仍能保持高实用性。
• 克服先前算法的局限性：要么计算上不可行（在 β 上指数级），要么仅适用于小 β（≤√(2α)）。
• 引入曲率作为关键参数，以在鲁棒子模优化中收紧近似边界，此前该参数在该背景下未被探索。
• 设计一种既可扩展又对任意 α 和 β 均普遍有效的算法，不施加故障数量的限制。
• 提供理论保证，证明近似性能随着函数曲率降低而提升。

提出的方法

• 提出一种新颖算法（算法 1），通过迭代选择边际增益最高的元素来构建集合 A，同时对 β 个最坏情况的移除保持鲁棒性。
• 利用曲率（κ_f）来优化近似边界，其中较低曲率带来更好的性能保证。
• 引入一个关键不等式（不等式 24），将集合 A⁺₁ 给定子集 B*₂ 的边际增益与 A⁺₁ 的值关联起来，从而实现更紧致的分析。
• 定义 η 作为归一化因子，将 B*₂ 的边际增益与 A₂ 的值关联，用于推导最终的近似边界。
• 建立理论近似边界：当 κ_f ≠ 0 时，近似比为 (1−κ_f)⋅(1−e^{−(1−κ_f)⋅(1−η)})/((1−κ_f)⋅(1−η))，且随着曲率降低而提升。
• 证明该算法的时间复杂度为 O(|V|(α−β)τ_f)，其中 τ_f 为单次函数评估的成本，因此适用于大规模问题。

实验结果

研究问题

• RQ1 能否在对抗性故障下利用曲率改进鲁棒子模优化中的近似保证？
• RQ2 是否可能设计一种可扩展的鲁棒子模最大化算法，适用于任意 β 和 α，而无需将 β 限制为较小值？
• RQ3 子模函数的曲率在鲁棒设置下如何影响近似性能？
• RQ4 能否为鲁棒子模最大化推导出依赖于曲率且优于现有边界的理论近似边界？
• RQ5 所提算法的计算复杂度是多少？其是否可扩展至包含数千个元素和故障的大规模问题实例？

主要发现

• 所提算法对任意 α 和 β 均保证至少 (1−κ_f)⋅(1−e^{−(1−κ_f)⋅(1−η)})/((1−κ_f)⋅(1−η)) 的近似比，且随着曲率 κ_f 降低而提升。
• 对于低曲率函数（如 κ_f < 0.5），近似比显著超过先前工作的 29% 边界，后者仅在 β ≤ √(2α) 时有效。
• 该算法的时间复杂度为 O(|V|(α−β)τ_f)，适用于 |V| 达数千且 β 最高可达 α/2 的大规模问题。
• 理论分析表明，随着曲率降低，近似边界变得更紧，验证了曲率在鲁棒优化中的关键作用。
• 该算法对任意 α 和 β 均普遍有效，而不同于先前方法对 β 有子线性于 α 的限制。
• 实验评估补充了理论分析，证明了该算法在实际鲁棒选择任务中的有效性。