[論文レビュー] Conditional Gradient Method for Stochastic Submodular Maximization: Closing the Gap

Aryan Mokhtari, Hamed Hassani+1 more|arXiv (Cornell University)|Nov 5, 2017

Complexity and Algorithms in Graphs参考文献 37被引用数 9

ひとこと要約

本稿では、凸体制約下での確率的連続サブモジュラ最適化のための新しい条件付き勾配法であるStochastic Continuous Greedy (SCG) を提案する。期待値においてタイトな$(1-1/e)$近似保証を達成し、$ mathcal{O}(1/ epsilon^3)$回の確率的勾配計算を要する。これにより、決定的と確率的設定の間のギャップが埋まり、マトロイド制約下での確率的サブモジュラ集合関数に対する最初の$(1-1/e)$-近似が達成される。

ABSTRACT

In this paper, we study the problem of extit{constrained} and extit{stochastic} continuous submodular maximization. Even though the objective function is not concave (nor convex) and is defined in terms of an expectation, we develop a variant of the conditional gradient method, called \alg, which achieves a extit{tight} approximation guarantee. More precisely, for a monotone and continuous DR-submodular function and subject to a extit{general} convex body constraint, we prove that \alg achieves a $[(1-1/e) ext{OPT} -\eps]$ guarantee (in expectation) with $\mathcal{O}{(1/\eps^3)}$ stochastic gradient computations. This guarantee matches the known hardness results and closes the gap between deterministic and stochastic continuous submodular maximization. By using stochastic continuous optimization as an interface, we also provide the first $(1-1/e)$ tight approximation guarantee for maximizing a extit{monotone but stochastic} submodular extit{set} function subject to a general matroid constraint.

研究の動機と目的

• 決定的と確率的連続サブモジュラ最適化の間のギャップを、確率的設定においてタイトな$(1-1/e)$近似保証を達成することによって埋める。
• ミニバッチを必要とせず、過去の確率的勾配を平均化する手法を採用することで、メモリ効率の良い確率的最適化手法を開発する。
• 連続的リラクゼーションを用いて、理論的保証をマトロイド制約下での離散的確率的サブモジュラ最適化に拡張する。
• 目的関数が期待値として定義される場合に、単調で滑らかでDR-サブモジュラな関数に対して、一般の凸体制約下で収束性を保証するアルゴリズムを提供する。

提案手法

• バイアスのない確率的勾配推定値を用いるがミニバッチを必要としない、条件付き勾配法の変種としてStochastic Continuous Greedy (SCG) を提案する。
• 過去の勾配の重み付き平均と最新の確率的勾配のみを用いて、真の勾配の推定値を維持する再帰的平均化戦略を採用する。
• 確率的設定における収束と分散のバランスを図るため、減少するステップサイズ$\rho_t = \frac{4}{(t+8)^{2/3}}$を用いる。
• 目的関数のDR-サブモジュラ性と滑らかさを活用してヘシアン近似の下界を導出し、収束解析を可能にする。
• テイラー展開と行列ノルムの上限を用いて、関数値の増加を勾配方向と曲率に関連づけ、$(1-1/e)$-近似解への収束を保証する。
• 多項的拡張フレームワークを用いて、連続的確率的サブモジュラ最適化とマトロイド制約下での離散的サブモジュラ最適化を結びつける。

実験結果

リサーチクエスチョン

• RQ1 確率的バージョンの条件付き勾配法は、凸制約下での連続的DR-サブモジュラ最適化に対して、タイトな$(1-1/e)$近似保証を達成できるか？
• RQ2 提案されたSCGアルゴリズムは、ミニバッチを使用しないことで収束性と近似品質を維持し、メモリ効率を向上させられるか？
• RQ3 連続的確率的最適化フレームワークを用いることで、一般のマトロイド制約下での離散的確率的サブモジュラ最適化に対して、最初の$(1-1/e)$-近似を導出できるか？
• RQ4 バイアスのない勾配情報のみを用いる場合に、収束速度と近似誤差の最適なトレードオフは何か？

主な発見

• Stochastic Continuous Greedyは、$ mathcal{O}(1/\nepsilon^3)$回の確率的勾配計算後に、期待される目的関数値が少なくとも$(1-1/e)\text{OPT} - \nepsilon$以上であることを達成する。
• このアルゴリズムは既知の$(1-1/e)$の硬さ結果と一致し、決定的と確率的連続サブモジュラ最適化の間の理論的ギャップを埋めている。
• メモリ効率が高く、反復ごとに1回の確率的勾配のみを必要とし、従来の確率的条件付き勾配法とは異なりミニバッチを必要としない。
• 解析により、近似誤差の収束速度が$ mathcal{O}(T^{-1/3})$であることが示され、関数の曲率や定義域の直径といった問題パラメータへの明示的依存関係が特定された。
• このフレームワークにより、一般のマトロイド制約下で単調な確率的サブモジュラ集合関数を最適化するための最初の$(1-1/e)$-近似が、連続的リラクゼーションを介して達成された。