[论文解读] Approximate Submodular Functions and Performance Guarantees

Gaurav Gupta, Sérgio Pequito+1 more|arXiv (Cornell University)|Jun 17, 2018

Complexity and Algorithms in Graphs参考文献 31被引用 7

一句话总结

本文提出了一种新颖的框架，通过δ-近似子模函数来近似非子模集合函数，从而实现贪婪算法性能界限的线性时间计算。该框架定义了'子模性区域'以表征在给定误差范围内的子模近似，并引入广义贪婪曲率以统一并收紧现有的次优性保证，显著提升了组合方法的计算效率。

ABSTRACT

We consider the problem of maximizing non-negative non-decreasing set functions. Although most of the recent work focus on exploiting submodularity, it turns out that several objectives we encounter in practice are not submodular. Nonetheless, often we leverage the greedy algorithms used in submodular functions to determine a solution to the non-submodular functions. Hereafter, we propose to address the original problem by \emph{approximating} the non-submodular function and analyze the incurred error, as well as the performance trade-offs. To quantify the approximation error, we introduce a novel concept of $δ$-approximation of a function, which we used to define the space of submodular functions that lie within an approximation error. We provide necessary conditions on the existence of such $δ$-approximation functions, which might not be unique. Consequently, we characterize this subspace which we refer to as \emph{region of submodularity}. Furthermore, submodular functions are known to lead to different sub-optimality guarantees, so we generalize those dependencies upon a $δ$-approximation into the notion of \emph{greedy curvature}. Finally, we used this latter notion to simplify some of the existing results and efficiently (i.e., linear complexity) determine tightened bounds on the sub-optimality guarantees using objective functions commonly used in practical setups and validate them using real data.

研究动机与目标

• 为解决在实际应用中使用贪婪算法优化非子模、非负、非减集合函数的挑战，尽管缺乏理论保证。
• 形式化非子模函数在有界误差δ内由子模函数近似的概念，量化其与子模性的偏离程度。
• 表征此类子模近似函数的空间——即'子模性区域'——并识别能最小化次优性差距的最优近似。
• 提出一种新的贪婪曲率概念，统一并简化现有的基于曲率的性能保证，实现对贪婪算法次优性保证的高效线性时间计算。

提出的方法

• 提出δ-近似框架，其中非子模函数被近似为子模函数，使得所有子集上的点态误差均被δ所限制。
• 引入'子模性区域'（ROS）作为所有对给定非子模函数的δ-近似子模函数的集合，以实现对近似质量的系统性分析。
• 定义一种新的贪婪曲率概念，推广现有曲率定义，使对δ-近似子模函数应用贪婪算法的性能界限更紧致且统一。
• 基于新曲率定义推导贪婪算法的性能界限，计算复杂度降低至O(N)，相较先前方法的组合复杂度O(2^N)有显著提升。
• 利用广义曲率与δ-近似，简化现有基于曲率边界的证明，并将其推广至非子模设置。
• 在真实数据上验证该框架，展示了更优的性能界限，并在传感器选择与基于熵的估计任务中表现出一致的性能增益。

实验结果

研究问题

• RQ1 任何非子模集合函数是否都能在所有子集上以统一误差界δ被子模函数近似？
• RQ2 此类δ-近似子模函数的空间如何表征？何种性质使一种近似优于另一种，以实现更优的次优性保证？
• RQ3 当应用于δ-近似子模函数时，贪婪算法的性能界限是否可被收紧并高效计算？
• RQ4 曲率在确定近似非子模函数时的次优性差距中起什么作用？如何将其广义化以统一现有结果？
• RQ5 在计算复杂度与真实世界优化任务中的实证性能方面，该框架与现有方法相比如何？

主要发现

• 所提出的δ-近似框架能够表征有界误差内的子模近似，通过子模性区域（ROS）正式定义了'接近子模性'的概念。
• 新的贪婪曲率定义统一并推广了现有曲率概念，使性能边界分析更加连贯且简化。
• 对δ-近似子模函数应用贪婪算法的性能边界可在线性时间O(N)内计算，显著优于先前方法的指数时间复杂度。
• 该框架表明，次优性能是偏离子模性的惩罚，边界随δ增大而减小，量化了近似误差与解质量之间的权衡。
• 在真实数据上的实证验证表明，最小特征值度量与贪婪选择在传感器选择任务中优于随机选择，且在四个任务中均表现出一致的性能差距。
• 通过在ROS内选择总曲率最小的子模近似，该方法实现了比现有方法更紧致的次优性保证，提升了实际可用性。