[論文レビュー] Active Learning of Hyperparameters: An Expected Cross Entropy Criterion for Active Model Selection

Johannes Kulick, Robert Lieck+1 more|arXiv (Cornell University)|Sep 26, 2014

Machine Learning and Algorithms参考文献 23被引用数 8

ひとこと要約

本稿では、潜在モデルパラメータに関する情報量の増加を測るために期待交差エントロピー基準を用いた、ハイパーパramータおよび特徴選択のための新しいアクティブラーニングフレームワークを提案する。ハイパーパramータの事前分布と期待事後分布の乖離を最小化することで、標準的な予測不確実性やバージョンスペース手法よりも、少ないクエリで潜在モデル特性を効率的に特定する。

ABSTRACT

In standard active learning, the learner’s goal is to reduce the predictive uncertainty with as little data as possible. We consider a slightly different problem: the learner’s goal is to uncover latent properties of the model—e.g., which features are relevant (“active feature selection”), or the choice of hyper parameters—with as little data as possible. While the two goals are clearly related, we give examples where following the predictive uncertainty objective is suboptimal for uncovering latent parameters. We propose novel measures of information gain about the latent parameter, based on the divergence between the prior and expected posterior distribution over the latent parameter in question. Notably, this is different from applying Bayesian experimental design to latent variables: we give explicit examples showing that the latter objective is prone to get stuck in local minima, unlike its application the standard predictive uncertainty. Extensive evaluations show that active learning using our measures significantly accelerates the uncovering of latent model parameters, as compared to standard version space approaches (Query-by-committee) as well as predictive uncertainty measures. 1

研究の動機と目的

• 標準的なアクティブラーニングが予測不確実性を最小化することに限定されていること、ならびに、関連する特徴やハイパーパラメータといった潜在モデル特性を特定できないことへの対処。
• 予測性能ではなく、潜在パラメータに関する情報量の増加を直接標的とする手法の開発。
• 潜在変数にベイジアン実験設計を適用する際の固有の局所最適解問題の克服。
• データ効率的なクエリ戦略を通じて、最適ハイパーパラメータおよびアクティブな特徴の発見を加速すること。
• Query-by-Committeeおよび予測不確実性に基づくアクティブラーニングと比較して優れた性能を示すこと。

提案手法

• 本手法は、潜在ハイパーパラメータ上の事前分布と期待事後分布の間の期待交差エントロピーに基づく新しい情報量増加測定値を導入する。
• 現在のモデルの予測分布を用いて、データ分布の不確実性を統合することで、ハイパーパラメータ上の期待事後分布を計算する。
• 獲得関数は、予測不確実性ではなく、潜在パラメータに関する期待情報量増加を最大にする次回のクエリポイントを選択する。
• モデル出力の分散ではなく、パrameter空間の乖離に注目することで、局所最適解を回避する。
• データ収集下での期待事後分布のシフトを明示的にモデル化することで、潜在変数に適用したベイジアン実験設計とは異なる。
• 本手法は、特徴の関連性やハイパーパラメータチューニングを含む、複数のモデル選択タスクで評価される。

実験結果

リサーチクエスチョン

• RQ1 パラメータ空間の乖離に基づくアクティブラーニング基準は、予測不確実性を上回って潜在モデルパラメータを効率的に特定できるか？
• RQ2 提案された期待交差エントロピー基準は、ハイパーパラメータおよび特徴選択において、Query-by-Committeeのようなバージョンスペース手法と比較してどのように異なるか？
• RQ3 提案手法は、潜在変数にベイジアン実験設計を適用する際の一般的な局所最適解を回避できるか？
• RQ4 本手法は、最適ハイパーパラメータやアクティブな特徴を特定するために必要なクエリ数をどの程度削減できるか？
• RQ5 本手法の基準は、異なるモデルクラスやデータ分布に対して一貫して頑健であるか？

主な発見

• 提案された期待交差エントロピー基準は、標準的な予測不確実性に基づくアクティブラーニングと比較して、最適ハイパーパラメータの発見を著しく加速する。
• 本手法は、クエリ数を減らしながらも、関連する特徴や最適ハイパーパラメータを特定する点で、Query-by-Committeeや他のバージョンスペース手法を上回る。
• 潜在変数にベイジアン実験設計を適用する際の一般的な局所最適解を回避する。
• 事前分布と事後分布の乖離に基づく情報量増加測定値は、ハイパーパラメータ探索タスクでの収束をより速くする。
• 実験的評価により、複数のベンチマークタスクでデータ効率性が一貫して向上することが示された。
• 特に高次元またはスパースなパラメータ空間において、最小限のデータで潜在モデル構造を効果的に特定する優れた性能を達成した。