[論文レビュー] Bayesian Active Learning for Classification and Preference Learning

Neil Houlsby, Ferenc Huszár+2 more|arXiv (Cornell University)|Dec 24, 2011

Machine Learning and Algorithms参考文献 20被引用数 491

ひとこと要約

本稿では、ガウス過程分類器（GPC）のための情報理論的アクティブラーニング手法であるBayesian Active Learning by Disagreement（BALD）を提案する。この手法は、完全な情報ゲイン基準への近似を最小限に抑える。情報ゲインを予測エントロピーの差分として再定式化することで、意思決定理論的手法よりも計算コストが低く、最新の性能を達成する。また、カーネル再パラメータライゼーションにより、順序付け学習への自然な拡張が可能である。

ABSTRACT

Information theoretic active learning has been widely studied for probabilistic models. For simple regression an optimal myopic policy is easily tractable. However, for other tasks and with more complex models, such as classification with nonparametric models, the optimal solution is harder to compute. Current approaches make approximations to achieve tractability. We propose an approach that expresses information gain in terms of predictive entropies, and apply this method to the Gaussian Process Classifier (GPC). Our approach makes minimal approximations to the full information theoretic objective. Our experimental performance compares favourably to many popular active learning algorithms, and has equal or lower computational complexity. We compare well to decision theoretic approaches also, which are privy to more information and require much more computational time. Secondly, by developing further a reformulation of binary preference learning to a classification problem, we extend our algorithm to Gaussian Process preference learning.

研究の動機と目的

• ガウス過程分類器（GPC）のためのアクティブラーニングアルゴリズムを開発し、完全な情報理論的目的関数への近似を最小限に抑えること。
• 非パラメトリックモデル（例：GPC）における高次元かつ計算不能な事後エントロピーの問題に取り組むこと。
• 二項順序付けタスクを分類問題に再定式化することで、順序付け学習への拡張を図ること。
• 意思決定理論的手法と同等の性能を達成しながら、著しく低い計算時間で実行できること。
• 長年の課題であった、GPおよびSVMベースのアクティブラーニングにおけるカーネルハイパーパramータのアクティブラーニングを可能にすること。

提案手法

• パラメータ事後エントロピーの直接計算を避けるために、情報ゲインを事前と事後予測エントロピーの差分として再定式化する。
• 出力における予測エントロピーを用いて情報ゲインを推定し、事後分布が計算不能なGPCにおいても扱える計算を可能にする。
• モデルパラメータに関する期待情報ゲインを最大化するクエリを選択するためにBALD基準を適用する。
• ペairワイズ比較を分類フレームワークにマッピングするカーネルを構築することで、順序付け学習への拡張を実現する。
• 近似推論法（例：ラプラス近似、EP、ADF）を用いるが、コアの獲得関数を変更しないことで、計算のトレードオフにおける柔軟性を確保する。
• 推論手法に対して中立的であることを維持し、スパース、オンライン、または変分推論スキームとの統合を可能にする。

実験結果

リサーチクエスチョン

• RQ1 非パラメトリックモデル（例：GPC）において、強い近似を用いずに、ベイジアンアクティブラーニングにおける情報ゲインを効率的に計算できるか？
• RQ2 分類問題において、意思決定理論的手法やヒューリスティック手法と比較して、BALDの性能と効率はどのように異なるか？
• RQ3 BALDフレームワークは、分類問題に再定式化することで順序付け学習に拡張可能か？
• RQ4 ハイパーパramータが固定されている状況でも、BALDはIVM や QBC より優れた性能を示すか、特にノイズが多いおよび現実世界のデータセットにおいて？
• RQ5 BALDは、既存のGPおよびSVMベースのアクティブラーニング手法の主な制限であるカーネルハイパーパramータのアクティブラーニングを自然にサポートできるか？

主な発見

• BALDは、他のすべての手法よりも少ないデータポイントで同じ分類精度に到達でき、全データセットで最高の全体的性能を達成した。
• BALDは意思決定理論的手法（例：Zhu et al., 2003）と同等の性能を示したが、テストデータの位置情報が不要で、はるかに低い計算コストであった。
• MESはノイズが多いデータセットで著しく性能を発揮しなかった。これはノイズに敏感な不確実性モデリングが欠如しているためである。一方、BALDはノイズあり・なしの両方のデータで強い性能を維持した。
• IVMはノイズが多いデータで病理的性能を示した。これは特定のクラスに偏った選択によるもので、事後分布の近似とADF更新の限界を露呈している。
• QBCは、不確実性モデリングが内蔵されていないため、アンサンブルの不一致に依存しており、特にノイズが多いデータで一貫性のない性能を示した。
• ハイパーパramータが固定されている場合でもBALDの性能は頑健であったが、初期段階での過学習により初期クエリが最適でない場合があり、単純なヒューリスティクスで緩和された。