[論文レビュー] Learning Active Learning from Data

Ksenia Konyushkova, Raphael Sznitman+1 more|Bern Open Repository and Information System (University of Bern)|Mar 9, 2017

Machine Learning and Algorithms被引用数 138

ひとこと要約

データ駆動型のアクティブラーニング手法で、未ラベルサンプルの期待誤差削減を予測するレグレッサを学習し、タスクに合わせたクエリ戦略を合成データや限定的な実データから学習し、ドメインを超えて適用可能。

ABSTRACT

In this paper, we suggest a novel data-driven approach to active learning (AL). The key idea is to train a regressor that predicts the expected error reduction for a candidate sample in a particular learning state. By formulating the query selection procedure as a regression problem we are not restricted to working with existing AL heuristics; instead, we learn strategies based on experience from previous AL outcomes. We show that a strategy can be learnt either from simple synthetic 2D datasets or from a subset of domain-specific data. Our method yields strategies that work well on real data from a wide range of domains.

研究の動機と目的

• ラベル効率の向上を予測する回帰問題として、アクティブラーニングを動機づけ正式化する。
• 分類器の状態とサンプル特徴を期待誤差削減へ写像するレグレッサを訓練するための、モンテカルロベースのデータ収集を開発する。
• 手作りのALヒューリスティックを超えて一般化する、独立型と反復型の2つのLAL戦略を提供する。
• LALは合成データまたは小規模な適用特化データセットで訓練し、実世界のドメインへ転移できることを示す。

提案手法

• Learning Active Learning (LAL)を、候補点にラベルを付与したときの予想誤差減少の回帰として定式化する。
• 分類器の状態特徴量（例: 確率推定、クラス比、交差検証精度、木の深さ）とサンプル特徴量（例: 予測クラス確率、近接度測度）を入力として、delta = テスト損失の変化を予測するレグレッサgを得る。
• モンテカルロシミュレーションによって訓練データを収集する: fをL_tauで訓練し、損失を評価し、ラベル付きの点xを1つ追加して再訓練し、deltaを測定し、xi = [phi, psi]とdeltaを組み立てる。
• xiをdeltaへ写像するレグレッサgを訓練し、g(xi)を最大化する貪欲な選択x*を可能にする。
• 2つの戦略を提案する: LALindependent（オフラインデータのモンテカルロとランダムな未ラベル選択）と LALiterative（逐次選択を反映するALバイアスをシミュレート）。
• cold-start（合成2Dデータ）とwarm-start（アプリケーション特化データ）設定で、fとgにRandom Forestを用いて評価し、Rs, Us, Kapoor, ALBEのベースラインと比較する。

実験結果

リサーチクエスチョン

• RQ1 候補サンプルにラベルを付与することで、さまざまなデータセットにわたって潜在的な一般化誤差削減を予測するレグレッサを学習できるか。
• RQ2 データ駆動のLAL戦略は、合成データや小規模な初期データセットから実世界のドメイン固有タスクへ転移できるか。
• RQ3 データ駆動のLAL戦略は、従来のALヒューリスティック（例: 不確実性サンプリング）やメタALベースラインを、複数のドメインで上回るか。
• RQ4 独立対反復としてのALのモデリング（サンプリングバイアスを考慮）によるパフォーマンスへの影響はどうか。
• RQ5 オフラインLAL訓練とオンラインクエリの計算コストのトレードオフはどうか。

主な発見

• LAL戦略は、合成データ・実データ双方で不確実性サンプリングやいくつかのベースラインよりも優れている。
• LALは単純な2Dデータで訓練されても、医療画像、金融、生物学、物理学などの複雑で高次元な実ドメインへ効果的に一般化する。
• LALの反復型バリアントはしばしば最良の性能を示すが、LAL independentも競争力がありオンラインでの高速性を保つ。
• Warm-start、アプリケーション特化のLALはオフライン訓練時間の reasonable な範囲でベースラインを上回ることができる一方、ラベル付きデータが不足するとALBEは苦戦する可能性がある。
• 学習された戦略は分類器のタイプと特徴選択に対して頑健であり、オフライン訓練後のオンラインステップは高速である。