[論文レビュー] Adaptive Submodularity: A New Approach to Active Learning and Stochastic Optimization

Daniel Golovin, Andreas Krause|arXiv (Cornell University)|Mar 21, 2010

Complexity and Algorithms in Graphs参考文献 20被引用数 37

ひとこと要約

この論文は、不確実性下での適応的意思決定へのサブモジュラ関数の一般化である適応的サブモジュラ性を導入する。目的関数が適応的サブモジュラである場合、最適方策に対する定数乗数近似を達成する適応的グリーディアルゴリズムが証明され、アクティブラーニング、センサ配置、確率的最適化のための効率的解法が可能になる。

ABSTRACT

Solving stochastic optimization problems under partial observability, where one needs to adaptively make decisions with uncertain outcomes, is a fundamental but notoriously difficult challenge. In this paper, we introduce the concept of adaptive submodularity, generalizing submodular set functions to adaptive policies. We prove that if a problem satisfies this property, a simple adaptive greedy algorithm is guaranteed to be competitive with the optimal policy. We illustrate the usefulness of the concept by giving several examples of adaptive submodular objectives arising in diverse applications including sensor placement, viral marketing and pool-based active learning. Proving adaptive submodularity for these problems allows us to recover existing results in these applications as special cases and leads to natural generalizations. 1

研究の動機と目的

• 部分観測と不確実性下での適応的意思決定の課題に対処すること。
• 適応的方策へのサブモジュラリティの一般化である、新たな性質「適応的サブモジュラ性」を形式化すること。
• 結果が不確実な適応的設定におけるグリーディアルゴリズムの理論的保証を確立すること。
• センサ配置やアクティブラーニングを含む多様な分野への適応的サブモジュラリティの適用可能性を示すこと。
• 一様な理論的枠組みの下で、アクティブラーニングおよび確率的最適化分野の既存結果を統合・一般化すること。

提案手法

• 意思決定が過去の結果に依存する適応的方策へのサブモジュラ集合関数の一般化として、適応的サブモジュラ性を提唱すること。
• 部分観測下での条件付き利益を用いて適応的サブモジュラ性の性質を定義し、適応的設定における収益逓減を保証すること。
• 過去の観測に条件づけられた期待利益を最大化するように逐次的に行動を選択する適応的グリーディアルゴリズムを開発すること。
• 目的関数が適応的サブモジュラかつ単調である場合、適応的グリーディアルゴリズムが最適方策に対する定数乗数近似を達成することを証明すること。
• この概念を用いて、アクティブラーニング、センサ配置、バイラルマーケティング分野の既存問題を分析・一般化すること。
• これらの分野における既存の結果が、提案されたフレームワークの特別な場合として回復できることを示すこと。

実験結果

リサーチクエスチョン

• RQ1 不確実性下での適応的意思決定へのサブモジュラリティの一般化を形式化できるか？
• RQ2 確率的最適化において、グリーディな適応的方策が最適方策と証明可能に競合可能となる条件は何か？
• RQ3 適応的サブモジュラリティは、アクティブラーニングやセンサ配置といった実世界の問題にどのように応用できるか？
• RQ4 アクティブラーニングおよび確率的最適化分野における既存の結果は、この新しいフレームワークの下で統合・一般化可能か？
• RQ5 目的関数が適応的サブモジュラを満たす場合、適応的グリーディアルゴリズムにどのような理論的保証を提供できるか？

主な発見

• 適応的サブモジュラリティは、サブモジュラ関数を適応的方策へ一般化し、不確実性下での逐次的意思決定の理論的分析を可能にする。
• 目的関数が適応的サブモジュラかつ単調である場合、適応的グリーディアルゴリズムが最適方策に対する定数乗数近似を保証される。
• このフレームワークは、プールベースのアクティブラーニング、センサ配置、バイラルマーケティング分野の既存結果を回復・一般化する。
• この概念は、部分観測を伴う広範な確率的最適化問題の統一的理論的基盤を提供する。
• この論文は、適応的設定におけるグリーディ方策の性能保証の十分条件として、適応的サブモジュラリティが成立することを確立する。
• このアプローチにより、将来の結果を完全に把握しないまま、複雑な適応的意思決定問題に対して効率的かつ近似的最適な解が得られる。