[論文レビュー] Black Box Submodular Maximization: Discrete and Continuous Settings

Lin Chen, Mingrui Zhang+2 more|arXiv (Cornell University)|Jan 28, 2019

Complexity and Algorithms in Graphs参考文献 68被引用数 4

ひとこと要約

本稿では、勾配計算が不可能または困難な状況下で、関数評価のみを用いて単調な連続的DR-下位単調関数を凸体制約のもとで最大化する、微分フリーで射影フリーなアルゴリズムであるブラックボックス連続グリーディ（BCG）を提案する。本手法は、$\mathcal{O}(d/\epsilon^3)$回の関数評価で、$(1-1/e)\text{OPT} - \epsilon$の近似を達成し、勾配が得られない環境における効率的な最適化を可能にする。

ABSTRACT

In this paper, we consider the problem of black box continuous submodular maximization where we only have access to the function values and no information about the derivatives is provided. For a monotone and continuous DR-submodular function, and subject to a bounded convex body constraint, we propose Black-box Continuous Greedy, a derivative-free algorithm that provably achieves the tight $[(1-1/e)OPT-ε]$ approximation guarantee with $O(d/ε^3)$ function evaluations. We then extend our result to the stochastic setting where function values are subject to stochastic zero-mean noise. It is through this stochastic generalization that we revisit the discrete submodular maximization problem and use the multi-linear extension as a bridge between discrete and continuous settings. Finally, we extensively evaluate the performance of our algorithm on continuous and discrete submodular objective functions using both synthetic and real data.

研究の動機と目的

• 関数値のみが利用可能で勾配が計算不能または困難な状況において、単調な連続的DR-下位単調関数の最大化を解決すること。
• コストの高い射影を回避し、強力な理論的保証を維持する、射影フリーで微分フリーなアルゴリズムの開発。
• 確率的設定への拡張を図り、多項式拡張を介して連続的および離散的下位単調最適化を統合するフレームワークの構築。
• 合成データおよび実世界データを用いた実験的検証を通じて、効率性とほぼ最適な性能を示すこと。
• 関数評価回数が制限される大規模な機械学習環境において、1次最適化手法の実用的代替手段を提供すること。

提案手法

• 関数評価とランダムな方向サンプリングを用いて勾配を明示的に計算せずに部分勾配方向を推定するゼロ次最適化手法として、ブラックボックス連続グリーディ（BCG）を提案する。
• 射影を用いず、可縮性を保つためにフランク＝ウォルフ風の線形最小化オракルを採用し、一般の凸体制約のもとで収束を保証する。
• 有限差分を用いた確率的スムージング技術により、方向微分を推定し、勾配フリーの更新を可能にする。
• 単調なDR-下位単調関数に対して、$\mathcal{O}(d/\epsilon^3)$回の関数評価で$(1-1/e)\text{OPT} - \epsilon$の近似を達成する理論的収束性を確立する。
• ゼロ平均のノイズを伴う確率的設定へ拡張し、ノイズ下でもロバストでかつ近似保証を維持することを証明する。
• 離散的下位単調最適化の再考として、多項式拡張を連続的緩和として用い、BCGの離散的問題への応用を可能にする。

実験結果

リサーチクエスチョン

• RQ1 勾配計算が不可能な状況下でも、凸制約のもとで単調な連続的DR-下位単調関数の最大化において、微分フリーなアルゴリズムが$(1-1/e)$のタイトな近似保証を達成できるか？
• RQ2 勾配が得られない状況で、ゼロ次情報がどのように効率的に下位単調関数最適化に活用できるか？
• RQ3 関数評価に確率的ノイズが存在する状況でも、アルゴリズムが理論的保証を維持できるか？
• RQ4 関数評価効率および実行時間の観点から、本手法は1次およびゼロ次ベースラインをどの程度上回るか？
• RQ5 多項式拡張を介して、連続的BCGフレームワークを離散的下位単調最適化問題に効果的に適用できるか？

主な発見

• BCGは、$\mathcal{O}(d/\epsilon^3)$回の関数評価で、連続的DR-下位単調関数最適化における最良の既知の理論的境界に一致する$(1-1/e)\text{OPT} - \epsilon$のタイトな近似保証を達成した。
• 合成および実世界データを用いた実験では、BCGはSCG や GA といった1次最適化手法と同等の目的関数値を達成したが、はるかに少ない関数評価回数を要した。
• すべてのタスクにおいて、BCGはSCG や ZGA よりも少なくとも2倍速く実行され、ゼロ次評価の低コストさに起因する優れた実行時間効率を示した。
• アクティブセット選択やインフルエンス最大化といった離散的タスクにおいて、DBG（BCGの離散的変種）はZGA よりも著しく少ない関数評価回数で、競争力のある性能を達成した。
• 関数値と効率の両面でZGAを上回り、関数評価コストを著しく削減した一方で、目的関数値では1次最適化手法と同等またはそれを上回る性能を示した。
• 実験結果から、関数評価回数や実行時間が制限される大規模な環境において、BCGが特に有利であることが確認された。