[論文レビュー] How Do You Want Your Greedy: Simultaneous or Repeated?

Moran Feldman, Christopher Harshaw+1 more|arXiv (Cornell University)|Sep 29, 2020

Complexity and Algorithms in Graphs参考文献 32被引用数 8

ひとこと要約

本稿では、$k$-extendibleシステムに対して $k + \mathcal{O}(1)$、$k$-システムに対して $k + \mathcal{O}(\sqrt{k})$ の、これまでで最もタイトな近似保証を達成する、決定的アルゴリズムであるSimultaneousGreedysを提案する。このアルゴリズムは、$\ell$ 個の解を維持し、同時に更新することで、近似性能とロバスト性を向上させる。また、RepeatedGreedyの解析を改善し、$k + \mathcal{O}(\sqrt{k})$ 近似を得るには $\mathcal{O}(\sqrt{k})$ 回の反復で十分であることを示し、両アルゴリズムはほぼ線形時間と複数のナップサック制約をサポートする。

ABSTRACT

We present SimultaneousGreedys, a deterministic algorithm for constrained submodular maximization. At a high level, the algorithm maintains $\ell$ solutions and greedily updates them in a simultaneous fashion. SimultaneousGreedys achieves the tightest known approximation guarantees for both $k$-extendible systems and the more general $k$-systems, which are $(k+1)^2/k = k + \mathcal{O}(1)$ and $(1 + \sqrt{k+2})^2 = k + \mathcal{O}(\sqrt{k})$, respectively. This is in contrast to previous algorithms, which are designed to provide tight approximation guarantees in one setting, but not both. We also improve the analysis of RepeatedGreedy, showing that it achieves an approximation ratio of $k + \mathcal{O}(\sqrt{k})$ for $k$-systems when allowed to run for $\mathcal{O}(\sqrt{k})$ iterations, an improvement in both the runtime and approximation over previous analyses. We demonstrate that both algorithms may be modified to run in nearly linear time with an arbitrarily small loss in the approximation. Both SimultaneousGreedys and RepeatedGreedy are flexible enough to incorporate the intersection of $m$ additional knapsack constraints, while retaining similar approximation guarantees: both algorithms yield an approximation guarantee of roughly $k + 2m + \mathcal{O}(\sqrt{k+m})$ for $k$-systems and SimultaneousGreedys enjoys an improved approximation guarantee of $k+2m + \mathcal{O}(\sqrt{m})$ for $k$-extendible systems. To complement our algorithmic contributions, we provide a hardness result which states that no algorithm making polynomially many oracle queries can achieve an approximation better than $k + 1/2 + \varepsilon$. We also present SubmodularGreedy.jl, a Julia package which implements these algorithms and may be downloaded at https://github.com/crharshaw/SubmodularGreedy.jl . Finally, we test the effectiveness of these algorithms on real datasets.

研究の動機と目的

• 従来のアルゴリズムが同時に達成できなかった、$k$-システムおよび $k$-extendibleシステムの両方において、タイトな近似保証を達成する決定的アルゴリズムの開発。
• RepeatedGreedyの理論的解析を改善し、$k$-システムに対して $k + \mathcal{O}(\sqrt{k})$ 近似を得るには $\mathcal{O}(\sqrt{k})$ 回の反復で十分であることを示すこと。
• 複数のナップサック制約を効率的に処理しつつ、$k$-システムおよび $k$-extendibleシステムの両方で強い近似保証を維持すること。
• 両アルゴリズムのほぼ線形時間版を提供し、近似性能にわずかな損失を許容することで、実用的なスケーラビリティを実現すること。
• 任意の多項式クエリアルゴリズムが $k$-システムに対して $k + \frac{1}{2} + \varepsilon$ よりも良い近似を達成できないことを示す下界結果の確立。

提案手法

• SimultaneousGreedysは $\ell$ 個の解を維持し、逐次的ではなく並列に更新することで、近似性能とロバスト性を向上させる。
• アルゴリズムは、すべての現在の解においてマージナル利得を一括して向上させるように、同時に更新するルールを用いる。
• ナップサック制約の下では、コストを考慮した選択を組み込み、選択された要素の総コストが予算内に収まるようにする。
• 近似比の境界を複数の解状態にわたって示すために、新しいポテンシャル関数の議論を用いる。
• RepeatedGreedyの解析は、よりタイトなアームォタイズドコストの議論により見直され、$\mathcal{O}(\sqrt{k})$ 回の反復で $k + \mathcal{O}(\sqrt{k})$ 近似が達成できることを示した。
• 両アルゴリズムは、ラージな評価とサンプリング技術を用いてほぼ線形時間で実行可能に変更され、近似性能の損失は有界である。

実験結果

リサーチクエスチョン

• RQ1 1つの決定的アルゴリズムが、$k$-システムおよび $k$-extendibleシステムの両方において、これまでで最もタイトな近似保証を同時に達成できるか？
• RQ2 RepeatedGreedyアルゴリズムの解析をよりタイトにすることで、良好な近似を得るのに必要な反復回数を削減できるか？
• RQ3 両アルゴリズムを複数のナップサック制約をサポートするように変更でき、強い理論的保証を維持できるか？
• RQ4 これらの問題に対して、近似性能にわずかな損失を許容することで、ほぼ線形時間の性能を達成できるか？
• RQ5 任意の多項式クエリアルゴリズムが $k$-システムに対して達成できる最良の近似比は何か？

主な発見

• SimultaneousGreedysは、$k$-extendibleシステムに対して $k + \mathcal{O}(1)$、$k$-システムに対して $k + \mathcal{O}(\sqrt{k})$ の近似比を達成し、これらはこれまでで最もタイトな保証である。
• RepeatedGreedyは $\mathcal{O}(\sqrt{k})$ 回の反復で $k + \mathcal{O}(\sqrt{k})$ 近似を達成し、従来の解析が要求していた $\mathcal{O}(k)$ 回の反復よりも改善された。
• 単調な目的関数の下では、両アルゴリズムは $k+1$ 近似に改善され、さらに境界がタイトになる。
• 両アルゴリズムは、近似性能に任意に小さな損失を許容することで、ほぼ線形時間で実行可能に変更でき、これは $k$-extendibleシステムおよび $k$-システムに対して初めての実装である。
• $m$ 個の追加ナップサック制約がある場合、SimultaneousGreedysは $k$-extendibleシステムに対して $k + 2m + \mathcal{O}(\sqrt{m})$ 近似、$k$-システムに対して $k + 2m + \mathcal{O}(\sqrt{k+m})$ 近似を達成する。
• 下界結果として、$k$-システムに対して任意の多項式クエリアルゴリズムが $k + \frac{1}{2} + \varepsilon$ よりも良い近似を達成できないことが示され、新しい境界のタイトさが裏付けられた。