[論文レビュー] Adaptive Submodularity: Theory and Applications in Active Learning and Stochastic Optimization

Daniel Golovin, Andreas Krause|arXiv (Cornell University)|Mar 21, 2010

Complexity and Algorithms in Graphs参考文献 48被引用数 204

ひとこと要約

本稿では、不確実性下での適応的意思決定への古典的サブモジュラリティの一般化である適応的サブモジュラリティを導入する。不完全観測を伴う確率的最適化問題に対して、適応的グリーディアルゴリズムが理論的に近似的に最良の性能を達成することを証明し、アクティブラーニング、センサ配置、バイラルマーケティングにおいて、理論的保証と実用的な高速化（ラージな評価による）を両立する効率的な解法を可能にする。

ABSTRACT

Solving stochastic optimization problems under partial observability, where one needs to adaptively make decisions with uncertain outcomes, is a fundamental but notoriously difficult challenge. In this paper, we introduce the concept of adaptive submodularity, generalizing submodular set functions to adaptive policies. We prove that if a problem satisfies this property, a simple adaptive greedy algorithm is guaranteed to be competitive with the optimal policy. In addition to providing performance guarantees for both stochastic maximization and coverage, adaptive submodularity can be exploited to drastically speed up the greedy algorithm by using lazy evaluations. We illustrate the usefulness of the concept by giving several examples of adaptive submodular objectives arising in diverse applications including sensor placement, viral marketing and active learning. Proving adaptive submodularity for these problems allows us to recover existing results in these applications as special cases, improve approximation guarantees and handle natural generalizations.

研究の動機と目的

• 部分観測を伴う適応的確率的最適化問題に対する効率的な近似アルゴリズムの設計という課題に対処すること。
• 古典的サブモジュラリティの概念を、不確実性下での逐次的意思決定を捉える適応的方策へ一般化し、限界効果の逓減を表現すること。
• 非適応的サブモジュラリティ最適化の結果を拡張し、適応的設定におけるグリーディアルゴリズムの理論的性能保証を提供すること。
• 解の品質を損なわずに、ラージな評価を活用してグリーディアルゴリズムの実用的高速化を可能にすること。
• アクティブラーニング、センサ配置、バイラルマーケティングの既存結果を、単一の理論的枠組みで統一・一般化すること。

提案手法

• 条件付き期待値における逓減効果の性質を定義することで、適応的方策へのサブモジュラリティ関数の一般化として適応的サブモジュラリティを導入する。
• 適応的サブモジュラリティの目的関数に対して、適応的グリーディアルゴリズムが基数制約付き最大化問題において定数倍の近似保証（1 - 1/e）を達成することを証明する。
• 最小コストおよび最小和の目的関数に対してもフレームワークを拡張し、両者に対して近似境界を証明する。
• 解の品質を損なわずに、ラージな評価技術を活用して適応的グリーディアルゴリズムの高速化を実現し、実用的に顕著な高速化を達成する。
• 問題を部分的に観測可能なマルコフ意思決定過程（POMDP）として形式化し、一般のPOMDPがPSPACE困難であるにもかかわらず、適応的サブモジュラリティが効率的な近似を可能にすることを示す。
• アクティブラーニングにおける持続的ノイズ、センサ配置、バイラルマーケティングといった実世界の問題にフレームワークを適用し、これらの目的関数に対して適応的サブモジュラリティが成り立つことを証明する。

実験結果

リサーチクエスチョン

• RQ1 サブモジュラリティ関数の逓減効果の性質を、不確実性下での適応的意思決定に一般化できるか？
• RQ2 部分観測を伴う確率的最適化問題に対して、適応的グリーディアルゴリズムが理論的近似保証を達成できるか？
• RQ3 このフレームワークは、アクティブラーニングやセンサ配置といった実世界のAI問題に適用可能であり、従来の手法よりもタイトな性能保証を提供できるか？
• RQ4 解の品質を損なわず、適応的グリーディアルゴリズムをどのように高速化できるか？
• RQ5 適応的サブモジュラリティは、アクティブラーニングおよび確率的最適化分野における既存の結果を統一・一般化できるか？

主な発見

• 基数制約付きの適応的サブモジュラリティ最大化において、適応的グリーディアルゴリズムが (1 - 1/e)-近似を達成する。これは非適応的ケースにおける最良の既知の境界と一致する。
• このフレームワークは、非適応的サブモジュラリティ最適化の古典的結果を適応的設定に一般化し、最小コストおよび最小和の目的関数に対しても保証を提供する。
• 適応的サブモジュラリティにより、ラージな評価が可能となり、実用的には数個のオーダーの高速化が達成できる。
• 本稿では、持続的ノイズを伴うアクティブラーニングにおいて適応的サブモジュラリティが成り立つことを証明し、この問題に対して初めての対数的近似保証を提供する。
• このフレームワークは、センサ配置およびバイラルマーケティング分野の既存結果を回復・改善し、より一般的な故障モデルや自然な問題拡張を可能にする。
• 本手法は、最適解に対するデータ依存型上界を提供し、実用的に早期終了を可能にし、効率性を向上させる。