[論文レビュー] Scenario Submodular Cover

Nathaniel Grammel, Lisa Hellerstein+2 more|arXiv (Cornell University)|Mar 10, 2016

Complexity and Algorithms in Graphs参考文献 14被引用数 5

ひとこと要約

本稿では、確率的サブモジュラ最適化の非独立分布バージョンとしての「シナリオサブモジュラカバー問題」を導入し、2つの近似アルゴリズムを提示する。1つはサンプル上での混合グリーディ戦略を用いて $O(\log Qm)$ のバインドを達成し、もう1つは重み付き実現のOR構成を用いて $O(\log QW)$ のバインドを達成する。主な貢献は、明示的に与えられた連携分布のもとでの近似保証であり、従来の独立分布に関する研究を拡張している。

ABSTRACT

Many problems in Machine Learning can be modeled as submodular optimization problems. Recent work has focused on stochastic or adaptive versions of these problems. We consider the Scenario Submodular Cover problem, which is a counterpart to the Stochastic Submodular Cover problem studied by Golovin and Krause. In Scenario Submodular Cover, the goal is to produce a cover with minimum expected cost, where the expectation is with respect to an empirical joint distribution, given as input by a weighted sample of realizations. In contrast, in Stochastic Submodular Cover, the variables of the input distribution are assumed to be independent, and the distribution of each variable is given as input. Building on algorithms developed by Cicalese et al. and Golovin and Krause for related problems, we give two approximation algorithms for Scenario Submodular Cover over discrete distributions. The first achieves an approximation factor of O(log Qm), where m is the size of the sample and Q is the goal utility. The second, simpler algorithm achieves an approximation bound of O(log QW), where Q is the goal utility and W is the sum of the integer weights. (Both bounds assume an integer-valued utility function.) Our results yield approximation bounds for other problems involving non-independent distributions that are explicitly specified by their support.

研究の動機と目的

• 従来の確率的モデルにおける独立性仮定を除去し、明示的に指定された連携確率分布の下でのサブモジュラ最適化を扱う。
• 入力が独立な確率変数分布ではなく、重み付き実現のサンプルである「シナリオサブモジュラカバー問題」のための近似アルゴリズムを開発する。
• 新たな効用関数の構築により、従来の適応的グリーディおよびデュアルグリーディフレームワークを依存する分布に対応させる。
• 経験的で非独立な分布を前提とした状況において、適応的サブモジュラカバーの理論的近似保証を提供する。

提案手法

• 実現のサンプルサポート $S$ 上で混合グリーディ戦略を適用し、修正された効用関数 $g_S$ を構築することで、サブモジュラリティと単調性を保証する。
• 元の効用 $g$ と重みベースの削除関数 $h_W$ を組み合わせるOR構成を用い、$g_W$ を形成する。$g_W$ は削除された実現の累積重みを追跡する。
• 適応的グリーディアルゴリズムを $g_W$ に適用し、目標 $QW$ を達成する。GolovinとKrauseの結果を活用して、適応的サブモジュラ関数に対する既知のバインドを適用する。
• サンプル分布に関する $g_W$ が適応的サブモジュラであることを示すことで、結果のアルゴリズムが $O(\log QW)$ の近似要因を維持することを証明する。
• 構築された効用関数 $g_S$ のサブモジュラリティ比 $\rho_S$ に対して下界 $\rho_S \geq \frac{1}{2}$ を確立し、混合グリーディによる $O(\log Qm)$ 近似を可能にする。
• 双対的議論により、サンプル外のアイテム選択が期待コストに影響しないことを示す。これは、それらのアイテムが確率ゼロであるためである。

実験結果

リサーチクエスチョン

• RQ1 明示的に与えられた非独立な連携分布の下で、サブモジュラカバーの近似保証を達成できるか？
• RQ2 変数間の依存性が導入された場合、独立な場合と比較してグリーディアルゴリズムの性能がどの程度劣化するか？
• RQ3 重み付きサンプル分布を符号化しつつ、サブモジュラリティと単調性を保つ効用関数を構築できるか？
• RQ4 実現のサンプルサポート上で混合グリーディアプローチを用いる場合、どの程度の近似要因が達成可能か？
• RQ5 OR構成を重み付きで依存する実現に対応させ、保証可能な近似バインドを得られるか？

主な発見

• 最初のアルゴリズムは $O(\log Qm)$ の近似要因を達成する。ここで $m$ は重み付きサンプル内の実現数、$Q$ は目標効用値である。
• 2番目のアルゴリズムは $O(\log QW)$ の近似要因を達成する。ここで $W$ はサンプル内実現の重みの合計である。
• 構築された効用関数 $g_S$ のサブモジュラリティ比 $\rho_S$ は $\frac{1}{2}$ 以上で下界が保証され、これにより $O(\log Qm)$ のバインドが可能となる。
• OR構成により構築された効用関数 $g_W$ は、サンプル分布に関して適応的サブモジュラであるため、適応的グリーディの適用が保証される。
• 連携分布が非独立であり、重み付きサンプルで明示的に与えられても、解の期待コストは最適解の対数的要因の範囲内に保たれる。
• これらのアルゴリズムは整数値をとる単調なサブモジュラ効用関数に適用可能であり、サポートを指定する非独立分布を含む問題に一般化可能である。