[論文レビュー] A Parallel Double Greedy Algorithm for Submodular Maximization

Alina Ene, Huy L. Nguyên+1 more|arXiv (Cornell University)|Dec 4, 2018

Complexity and Algorithms in Graphs参考文献 20被引用数 8

ひとこと要約

本稿では、非負のサブモジュラで連続的なDR-サブモジュラ関数を最大化するための並列二重グリーディアルゴリズムを提示する。勾配に基づく更新を用いることで、$1/2 - \epsilon$の近似比を$O(\log(1/\epsilon)/\epsilon)$の適応ラウンドで達成する。この手法は、二つの解を維持し、勾配の差に基づくポテンシャル関数を反復的に減少させる点で、逐次的二重グリーディ手法を連続的・並列的設定に拡張したものである。

ABSTRACT

We study parallel algorithms for the problem of maximizing a non-negative submodular function. Our main result is an algorithm that achieves a nearly-optimal $1/2 -ε$ approximation using $O(\log(1/ε) / ε)$ parallel rounds of function evaluations. Our algorithm is based on a continuous variant of the double greedy algorithm of Buchbinder et al. that achieves the optimal $1/2$ approximation in the sequential setting. Our algorithm applies more generally to the problem of maximizing a continuous diminishing-returns (DR) function.

研究の動機と目的

• 適応性が低く、ほぼ最適な近似保証を達成する並列的サブモジュラ関数最大化アルゴリズムの設計。
• 勾配情報を利用した連続的・並列的設定への逐次的二重グリーディアルゴリズムの拡張。
• 非負のDR-サブモジュラ関数に対して$1/2 - \epsilon$の近似を$O(\log(1/\epsilon)/\epsilon)$の適応ラウンドで達成すること。
• 二つの解ベクトル間の勾配差に基づくポテンシャル関数を用いたアルゴリズムの収束解析。

提案手法

• アルゴリズムは、初期値がそれぞれ$\epsilon\mathbf{1}$および$(1 - \epsilon)\mathbf{1}$である二つのベクトル$\vec{x}$と$\vec{y}$を維持する。
• 各反復で、これらの点における関数の勾配に基づき、$\vec{x}$を同時に増加させ、$\vec{y}$を減少させる。
• 更新ルールは、ポテンシャル関数$\Phi = \langle \nabla f(\vec{x}) - \nabla f(\vec{y}), \vec{1}_{\mathcal{S}} \rangle$を減少させることを目的としている。ここで$\mathcal{S}$は、$\vec{x}$において勾配が正で、$\vec{y}$において負である座標の集合である。
• ポテンシャル関数が$\epsilon M$未満に低下するまでアルゴリズムを実行する。ここで$M$は関数値の最大値である。
• ポテンシャル関数は各反復で$1 - \epsilon/2$の係数で乗算的に減少し、対数的収束を保証する。
• サブモジュラリティに依存して、実行中におけるポテンシャル関数の増加を保証する。

実験結果

リサーチクエスチョン

• RQ1 並列アルゴリズムは、定数個の適応ラウンドで、サブモジュラ最大化においてほぼ最適な$1/2 - \epsilon$近似を達成できるか？
• RQ2 逐次的二重グリーディアルゴリズムは、勾配を用いてどのように連続的・並列的設定に一般化できるか？
• RQ3 並列的サブモジュラ最適化フレームワークにおいて、二つの解ベクトル間の勾配差に基づくポテンシャル関数の収束速度は何か？
• RQ4 このアルゴリズムは、離散的サブモジュラ関数を超えて連続的DR-サブモジュラ関数へ応用可能か？

主な発見

• 非負のDR-サブモジュラ関数の最大化において、$1/2 - \epsilon$の近似を達成する。
• 適応ラウンド数および関数評価回数は$O(\log(1/\epsilon)/\epsilon)$であり、近似保証に対してほぼ最適である。
• ポテンシャル関数は各反復で$1 - \epsilon/2$の割合で減少し、$O(\log(1/\epsilon)/\epsilon)$ラウンドで収束が保証される。
• アルゴリズムは決定的であり、関数とその勾配へのオракルアクセスのみを必要とする。
• 初期のポテンシャルは$M/\epsilon$で有界であり、ポテンシャルが$\epsilon M$未満に低下するまでアルゴリズムが終了するため、十分な進捗が保証される。
• この手法は、逐次的二重グリーディアルゴリズムを連続的・並列的設定に一般化しつつ、近似保証を維持する。