[論文レビュー] Submodular Maximization Beyond Non-negativity: Guarantees, Fast Algorithms, and Applications

Christopher Harshaw, Moran Feldman+2 more|arXiv (Cornell University)|Apr 19, 2019

Complexity and Algorithms in Graphs参考文献 32被引用数 46

ひとこと要約

この論文は、gが非負の単調性とγ-弱サブモジュラ性をもち、cが非負のモジュラーであるとき、基数制約（および無制約）設定下で g(S) − c(S) を最大化する高速アルゴリズムを開発し、(1−e^{−γ}−ε) g(OPT) − c(OPT) の保証を達成する。ランタイムは k に依存せず、γ-未知対応と一致する難易度結果も得られる。

ABSTRACT

It is generally believed that submodular functions -- and the more general class of $γ$-weakly submodular functions -- may only be optimized under the non-negativity assumption $f(S) \geq 0$. In this paper, we show that once the function is expressed as the difference $f = g - c$, where $g$ is monotone, non-negative, and $γ$-weakly submodular and $c$ is non-negative modular, then strong approximation guarantees may be obtained. We present an algorithm for maximizing $g - c$ under a $k$-cardinality constraint which produces a random feasible set $S$ such that $\mathbb{E} \left[ g(S) - c(S) ight] \geq (1 - e^{-γ} - ε) g(OPT) - c(OPT)$, whose running time is $O (\frac{n}ε \log^2 \frac{1}ε)$, i.e., independent of $k$. We extend these results to the unconstrained setting by describing an algorithm with the same approximation guarantees and faster $O(\frac{n}ε \log\frac{1}ε)$ runtime. The main techniques underlying our algorithms are two-fold: the use of a surrogate objective which varies the relative importance between $g$ and $c$ throughout the algorithm, and a geometric sweep over possible $γ$ values. Our algorithmic guarantees are complemented by a hardness result showing that no polynomial-time algorithm which accesses $g$ through a value oracle can do better. We empirically demonstrate the success of our algorithms by applying them to experimental design on the Boston Housing dataset and directed vertex cover on the Email EU dataset.

研究の動機と目的

• 目的と動機：g が非負の単調性 γ-弱サブモジュラであり、c が非負のモジュラーであるとして、目的関数が非負でない場合を f = g − c として表現する。
• 非負性の強い近似保証を持つ、基数制約付き最大化問題 for g − c の高速アルゴリズムを提供する。
• 結果を無制約設定へ拡張し、実行時間の効率性を分析する。
• 多項式時間の値オラクルアプローチの限界を示す難易度結果を導入する。

提案手法

• 破変 surrogate 目的 Φ を導入し、アルゴリズムの進行に応じて g と c を再重み付けする: Φ_i(T) = (1−γ/k)^{k−i} g(T) − c(T).
• Ψ_i(T, e) = max{0, (1−γ/k)^{k−(i+1)} g(e|T) − c_e} を定義する。
• Distorted Greedy を開発し、各反復で歪み増分が最大となる要素を追加し、歪み増分が正の場合のみ受理する。
• Stochastic Distorted Greedy を導入し、評価回数を削減するために ground set の部分集合 B_i をサンプリングするが保証を保つ。
• γ-未知対応のための γ-Sweep メタアルゴリズムを提供し、候補 γ 値を幾何的に走査して最良の解を選択する。
• この保証を超えられないことを示す対応する難易度結果を証明する。

実験結果

リサーチクエスチョン

• RQ1 g が γ-弱サブモジュラで c が非負モジュラーである場合、g(S) − c(S) を最大化する際に非自明な近似保証を得られるか？
• RQ2 基数制約付き最大化のためにランタイムを k に依存せずに設計するにはどうするか？
• RQ3 γ が未知の場合に何が達成でき、γ を推定・適応させるにはどうするか？
• RQ4 この問題に対する多項式時間の値オラクルアプローチには難易度の壁があるか？
• RQ5 これらの手法は実験計画やグラフ問題のような実務的タスクで良い性能を示すか？

主な発見

• Distorted Greedy は既知の γ の場合に (1 − e^{−γ}) g(OPT) − c(OPT) を達成し、評価回数は O(nk)。
• Stochastic Distorted Greedy は期待値で同じ保証を保ち、評価回数は O(n log(1/ε))。
• Unconstrained Distorted Greedy は同じ近似を O(n) の評価で達成。
• γ が未知の場合、γ-Sweep は多重オーバーヘッド O((1/δ) log(1/δ)) に近い γ の保証をもたらす。
• 難易度結果として、γ-弱サブモジュラ関数に対してこれらの保証を超える多項式時間の値オラクルアルゴリズムは存在し得ない。
• ボストン住宅データ（実験デザイン）と Email EU（有向頂点被覆）での実験は実践的有効性を示す。