[論文レビュー] Bayesian Optimal Active Search and Surveying

Roman Garnett, Yamuna Krishnamurthy+3 more|arXiv (Cornell University)|Jun 27, 2012

Machine Learning and Algorithms参考文献 10被引用数 35

ひとこと要約

本稿では、ベイジアン意思決定理論を用いて不確実性下での意思決定問題として定式化することで、ベイジアン最適アクティブサーチおよびサーベイティングを導入する。正のインスタンスの発見（サーチ）やクラス割合の推定（サーベイティング）を最大化する最適方策を導出し、より短視眼的でない近似がより短視眼的なものよりも優れている可能性を示し、計算複雑性を低減するための境界を提供することで、実用的な先読み（lookahead）を可能にする。

ABSTRACT

We consider two active binary-classification problems with atypical objectives. In the first, active search, our goal is to actively uncover as many members of a given class as possible. In the second, active surveying, our goal is to actively query points to ultimately predict the proportion of a given class. Numerous real-world problems can be framed in these terms, and in either case typical model-based concerns such as generalization error are only of secondary importance. We approach these problems via Bayesian decision theory; after choosing natural utility functions, we derive the optimal policies. We provide three contributions. In addition to introducing the active surveying problem, we extend previous work on active search in two ways. First, we prove a novel theoretical result, that less-myopic approximations to the optimal policy can outperform more-myopic approximations by any arbitrary degree. We then derive bounds that for certain models allow us to reduce (in practice dramatically) the exponential search space required by a naive implementation of the optimal policy, enabling further lookahead while still ensuring that optimal decisions are always made.

研究の動機と目的

• 一般化を目的としないが、正のインスタンスの発見やクラス割合の推定を最大化することを目的としたアクティブサーチおよびサーベイティング問題に対処すること。
• 各目的に適した自然な効用関数を用いて、これらの問題をベイジアン意思決定理論でモデル化すること。
• 不確実性下での逐次的意思決定において、探索と活用のバランスを取る最適方策を導出すること。
• 従来のアクティブサーチの研究を拡張し、より短視眼的でない戦略が、任意の程度においてより短視眼的な戦略を上回ることを証明すること。
• 理論的境界を用いて計算コストを削減する実用的な計算改善を考案し、方策評価における指数的探索空間を縮小すること。

提案手法

• クラス固有の効用関数を用いて、アクティブサーチおよびサーベイティングをベイジアン意思決定問題として定式化し、発見と推定精度に重点を置く。
• モデルパラメータおよびクラスラベルの事後分布を維持するためにベイジアン推論を適用する。
• 動的計画法を用いて期待効用を最大化する最適方策を導出する。
• モデル尤度に関する理論的境界を導入し、行動空間の剪定を可能にすることで、計算コストを削減する。
• 計算コストを抑えるために、縮小された探索空間を用いた先読み計画を実施し、最適性を損なわずに意思決定の質を向上させる。
• 確率的枠組みを用いて行動の期待効用を計算し、次回のクエリポイントの原理的選択を可能にする。

実験結果

リサーチクエスチョン

• RQ1 アクティブサーチにおける最適方策のより短視眼的でない近似は、実際にはより短視眼的なものよりも優れているのか？
• RQ2 正確なベイジアン最適方策計算の指数的複雑性を最適性を保ちながらどのように低減できるか？
• RQ3 アクティブサーチ（正のインスタンスの最大化発見）およびアクティブサーベイティング（クラス割合の推定）の目的と最も整合する効用関数は何か？
• RQ4 モデル尤度に関する導出された境界は、方策探索における計算コストを著しく削減する設定はどのようなものか？
• RQ5 実世界の発見および推定タスクにおいて、提案フレームワークはヒューリスティックまたはグリーディなアプローチと比較して、性能面でどのように差をつけるか？

主な発見

• より短視眼的でない方策の近似は、任意の程度においてより短視眼的なものよりも優れている可能性があり、グリーディ戦略が十分であるという仮定に疑問を呈する。
• モデル尤度に関する理論的境界により、最適方策計算の探索空間を著しく縮小でき、実用的な文脈でより深い先読みが可能になる。
• 提案されたフレームワークは、ベイジアン意思決定理論的枠組み内に問題固有の効用関数を定式化することで、アクティブサーチおよびサーベイティングの両方で最適意思決定を達成する。
• 計算複雑性を低減することで、高次元または複雑な行動空間を持つ問題に対しても、ベイジアン最適方策の実用的導入を可能にする。
• 尤度と事後分布が計算可能または近似可能である限り、さまざまなモデルやデータタイプに一般化可能である。
• 実験的結果は、ベースラインのアクティブラーニング手法と比較して、正のインスタンス発見および割合推定の両面で優れた性能を示している。