[論文レビュー] Weakly Submodular Function Maximization Using Local Submodularity Ratio

Richard Santiago, Yuichi Yoshida|arXiv (Cornell University)|Jan 1, 2020

Complexity and Algorithms in Graphs参考文献 36被引用数 6

ひとこと要約

本稿では、非単調関数に対する弱サブモジュラリティの一般化された概念を導入し、基数制約下で証明可能な近似保証を持つ確率的グリーディアルゴリズムを提案する。実行中に適応的に変化する動的局所サブモジュラリティ比を活用することで、単調な弱サブモジュラリティ関数に対しては(1−e⁻γ)-近似を達成し、サブモジュラリティ比の有利な変化を伴う非単調ケースではより緊密な近似境界を達成する。

ABSTRACT

Weak submodularity is a natural relaxation of the diminishing return property, which is equivalent to submodularity. Weak submodularity has been used to show that many (monotone) functions that arise in practice can be efficiently maximized with provable guarantees. In this work we introduce two natural generalizations of weak submodularity for non-monotone functions. We show that an efficient randomized greedy algorithm has provable approximation guarantees for maximizing these functions subject to a cardinality constraint. We then provide a more refined analysis that takes into account that the weak submodularity parameter may change (sometimes improving) throughout the execution of the algorithm. This leads to improved approximation guarantees in some settings. We provide applications of our results for monotone and non-monotone maximization problems.

研究の動機と目的

• 非単調関数への弱サブモジュラリティの拡張を通じて、より広範な実用的最適化問題のクラスに対する理論的保証を可能にすること。
• 単調および非単調な弱サブモジュラリティ関数の両方において、優れた近似性能を維持する確率的グリーディアルゴリズムの開発。
• アルゴリズム実行中にサブモジュラリティ比を動的に変化させることを許容する分析フレームワークの精緻化により、有利な状況下でより緊密な境界を達成すること。
• サブモジュラリティおよび割合的にサブモジュラリティの成分を含むケースを含め、非単調な目的関数に対する明確な近似保証の提供。
• 機械学習およびデータ要約の具体例を通じて、フレームワークの適用可能性を示すこと。例として特徴選択や画像要約。

提案手法

• 弱サブモジュラリティを非単調設定に一般化する2つの新しい関数クラス、γ-擬サブモジュラおよびγ-弱サブモジュラを導入。
• 期待マージナルゲインに基づいて要素を選択する確率的グリーディアルゴリズムを提案し、局所サブモジュラリティ比の動的分析を実施。
• サブモジュラリティ比γA,Bを現在の解のサイズ|A|に応じて変化可能とする洗練された分析フレームワークを用い、γが時間とともに向上する場合に近似境界を改善。
• gが単調サブモジュラでhが非単調な関数としてf = g + hに分解される関数にアルゴリズムを適用し、局所サブモジュラリティ比に基づく境界を導出。
• 非単調な振る舞いをモデル化するためのダミー要素の導入により、二重近似アプローチを採用し、元のグランドセットの要素に基づく解の品質の分析を可能に。
• 選択された元のグランドセットからの要素数に依存する局所サブモジュラリティ比パラメータ¯γiを用いて、期待近似保証を導出。

実験結果

リサーチクエスチョン

• RQ1 弱サブモジュラリティは、グリーディアルゴリズムの強い近似保証を維持したまま、非単調関数へ意味的に拡張可能か？
• RQ2 アルゴリズム実行中にサブモジュラリティ比がどのように動的に変化するかが、確率的グリーディアルゴリズムの性能に与える影響は？
• RQ3 サブモジュラリティ比が時間とともに向上する場合、非単調な弱サブモジュラリティ関数に対してどのような近似保証が達成可能か？
• RQ4 このフレームワークは、特徴選択、画像要約、辞書学習といった実用的問題に、証明可能な性能境界とともに適用可能か？
• RQ5 基数制約付き最大化における(γ·e⁻¹/γ)-近似境界はタイトか？また、動的サブモジュラリティ比の下では改善可能か？

主な発見

• 確率的グリーディアルゴリズムは、単調な弱サブモジュラリティ関数に対して(1−e⁻γ)-近似を達成し、DasとKempe（2011）の保証と一致する。
• 非単調関数の場合、f = g + hでgがサブモジュラでhが割合的にサブモジュラである場合、元のグランドセットから少なくともk/2の要素が選択された場合には、期待近似比が0.05/e ≈ 0.018以上に達する。
• f(S) = g(S) + |S|·h(S)でgがサブモジュラでhが非単調サブモジュラである場合、元のグランドセットEから少なくともk/2の要素が選択された場合には、期待近似比が0.09/e ≈ 0.033以上に達する。
• 分析により、局所サブモジュラリティ比γA,Bが実行中に上昇する場合、特に解のサイズとともに非減少である場合には、近似境界が改善されることが示された。
• サブモジュラリティ比の実際の変化を考慮することで、静的比の仮定よりも緊密な境界が得られ、実用的な性能保証が向上する。
• 本手法は、目的関数がしばしば非単調だが弱サブモジュラリティであることが特徴の動画・画像要約、特徴選択、ブラックボックスモデルの解釈といった実世界の問題に適用可能である。