[論文レビュー] Fast Non-Monotone Submodular Maximisation Subject to a Matroid Constraint

Pau Segui‐Gasco, Hyo‐Sang Shin|arXiv (Cornell University)|Mar 17, 2017

Complexity and Algorithms in Graphs参考文献 22被引用数 5

ひとこと要約

本稿では、マトロイド制約下における非負で非単調なサブモジュラ最大化問題に対して、最初の実用的である$(\frac{1}{e} - \epsilon)$-近似アルゴリズムを提示する。減少しきい値手順と滑らか化された測定連続勾配法を組み合わせることで、$O\left(\frac{nr^2}{\epsilon^4}\left(\frac{\bar{d} + \underline{d}}{\bar{d}}\right)^2 \log^2\left(\frac{n}{\epsilon}\right)\right)$回の値オракル呼び出しを達成し、従来の連続勾配法に比べて大幅に効率が向上している。

ABSTRACT

In this work we present the first practical $\left(\frac{1}{e}-ε ight)$-approximation algorithm to maximise a general non-negative submodular function subject to a matroid constraint. Our algorithm is based on combining the decreasing-threshold procedure of Badanidiyuru and Vondrak (SODA 2014) with a smoother version of the measured continuous greedy algorithm of Feldman et al. (FOCS 2011). This enables us to obtain an algorithm that requires $O(\frac{nr^2}{ε^4} \big(\frac{a+b}{a}\big)^2 \log^2({\frac{n}ε}))$ value oracle calls, where $n$ is the cardinality of the ground set, $r$ is the matroid rank, and $ b, a \in \mathbb{R}^+$ are the absolute values of the minimum and maximum marginal values that the function $f$ can take i.e.: $ -b \leq f_S(i) \leq a$, for all $i\in E$ and $S\subseteq E$, (here, $E$ is the ground set). The additional value oracle calls with respect to the work of Badanidiyuru and Vondrak come from the greater spread in the sampling of the multilinear extension that the possibility of negative marginal values introduce.

研究の動機と目的

• マトロイド制約下での一般非負サブモジュラ関数の最大化のための実用的で効率的な近似アルゴリズムの開発。
• 非単調サブモジュラ最適化における理論的保証と実用的適用性のギャップを埋める。
• 従来の連続勾配法が$O(n^6)$から$O(n^8)$のオラクル呼び出しを要するという高い計算コストを低減する。
• 従来単調関数に用いられていた減少しきい値フレームワークを、負の限界値を有する非単調設定に拡張する。
• 機械学習や要約などの大規模ドメインにおけるサブモジュラ最大化のスケーラブルな応用を可能にする。

提案手法

• BadanidiyuruとVondrak (2014) の減少しきい値手順と、Feldmanたる (2011) の測定連続勾配法の滑らか化版を組み合わせた。
• 連続勾配プロセスにおけるステップ数とサンプリング要件を削減するため、減少しきい値戦略を用いる。
• 負の限界値の存在を考慮した多変化拡張の滑らか化更新ルールを導入し、サンプリングの安定性を向上させる。
• 値オラクル呼び出しの回数を$O\left(\frac{nr^2}{\epsilon^4}\left(\frac{\bar{d} + \underline{d}}{\bar{d}}\right)^2 \log^2\left(\frac{n}{\epsilon}\right)\right)$で抑え、ここで$\bar{d}$と$\underline{d}$は最大および最小の絶対限界値である。
• マトロイド構造を活用して効率的な可解性チェックを実現し、$O\left(\frac{n}{\epsilon^2}\log\frac{r}{\epsilon}\right)$回の独立性オラクル呼び出しを実行する。
• 制御された分散を用いて多変化拡張をサンプリングし、1回の推定あたり$O\left(\frac{r^2}{\epsilon^2}\left(\frac{\bar{d} + \underline{d}}{\bar{d}}\right)^2 \log n\right)$回のサンプルを用いる。

実験結果

リサーチクエスチョン

• RQ1 負の限界値を有する非単調サブモジュラ関数に、減少しきい値フレームワークを適応可能か？
• RQ2 マトロイド制約下における非単調サブモジュラ最大化で、$(\frac{1}{e} - \epsilon)$-近似を達成するために必要な最小の値オラクル呼び出し回数は何か？
• RQ3 負の限界値がもたらす分散の増加に対応するため、測定連続勾配法をどのように滑らか化できるか？
• RQ4 近似保証を損なわずに、連続勾配法の計算コストを低減可能か？
• RQ5 非単調設定において、オラクルクエリ数を大幅に削減しながらも高い近似品質を維持可能か？

主な発見

• 提案アルゴリズムは、マトロイド制約下での一般非負サブモジュラ関数に対して$(\frac{1}{e} - \epsilon)$-近似を達成し、既知の最良理論的境界に一致する。
• 値オラクル呼び出し回数が$O\left(\frac{nr^2}{\epsilon^4}\left(\frac{\bar{d} + \underline{d}}{\bar{d}}\right)^2 \log^2\left(\frac{n}{\epsilon}\right)\right)$回に抑えられ、この近似比においては最も高速な既知の実行時間である。
• 独立性オラクル呼び出し回数は$O\left(\frac{n}{\epsilon^2}\log\frac{r}{\epsilon}\right)$回であり、大規模なグランドセットに対してもスケーラブルである。
• アルゴリズムの性能は、限界値の分散を捉える比率$\frac{\bar{d} + \underline{d}}{\bar{d}}$に敏感であり、負の値が存在するほどサンプリングコストが増加する。
• 減少しきい値戦略により、標準的な連続勾配法に比べて1ステップあたりのサンプル数を削減し、効率性を向上させた。
• 本稿のアルゴリズムは、マトロイド制約下における非単調サブモジュラ最大化で$(\frac{1}{e} - \epsilon)$-近似を達成する最初の実用的実装である。