[論文レビュー] Noisy Batch Active Learning with Deterministic Annealing

Gaurav Gupta, Anit Kumar Sahu+1 more|arXiv (Cornell University)|Sep 27, 2019

Machine Learning and Algorithms参考文献 33被引用数 6

ひとこと要約

本稿では、初期学習段階におけるモデルの不確実性にもかかわらず、多様性と情報量を兼ね備えたサンプルを選択するため、重要度サンプリング、クラスタリング、決定的アニーリングを組み合わせたノイズのあるバッチアクティブラーニング手法を提案する。また、ラベルノイズに対して耐性を高めるために、ノイズ除去層を導入し、MNIST、SVHN、CIFAR10、EMNISTの各データセットでクリーンなラベルとノイズのあるラベルの両条件において、最先端の性能を達成した。

ABSTRACT

We study the problem of training machine learning models incrementally with batches of samples annotated with noisy oracles. We select each batch of samples that are important and also diverse via clustering and importance sampling. More importantly, we incorporate model uncertainty into the sampling probability to compensate for poor estimation of the importance scores when the training data is too small to build a meaningful model. Experiments on benchmark image classification datasets (MNIST, SVHN, CIFAR10, and EMNIST) show improvement over existing active learning strategies. We introduce an extra denoising layer to deep networks to make active learning robust to label noises and show significant improvements.

研究の動機と目的

• 訓練データが限られる初期段階において、初期モデルの不確実性が高いため、信頼できるサンプル選択を導くことができない『コールドスタート問題』に対処すること。
• 訓練データが少ない場合に重要度スコアの推定が不正確になることで生じるバッチアクティブラーニングの性能低下を克服すること。
• クラウドソーシングなど現実世界の設定で一般的に見られる、ラベルが一貫性のないか、系統的なバイアスを含む「ノイズの多いオラクル」に対して、耐性を高めること。
• クラスタリングと重要度サンプリングを組み合わせることで、同時に多様性と情報量を確保するバッチ取得戦略を開発すること。
• 深層ネットワークに学習可能なノイズ除去層を導入し、アクティブラーニングの過程でラベルノイズの影響を軽減すること。

提案手法

• 未ラベルデータをグループ化することで、選択されたバッチの多様性を保証するため、クラスタリングを用いる。
• モデルの不確実性に基づく重要度サンプリングを適用し、情報量が多くかつ不確実性の高いサンプルを優先的に選択する。
• サンプリング確率に決定的アニーリングを組み込み、モデル推定が信頼できない場合の選択プロセスの滑らかさを向上させ、分散を低減する。
• 多様性と情報量の両立を図るため、重み付きサンプリング戦略を用いてクラスタリングと重要度サンプリングを統合する。
• ニューラルネットワークアーキテクチャに学習可能なノイズ除去層を導入し、トレーニング中にラベルノイズをフィルタリングする。
• ノイズ除去層を含めたエンドツーエンドの学習により、アクティブラーニングの反復処理中に、ノイズのあるラベルを補正する能力を学習可能にする。

実験結果

リサーチクエスチョン

• RQ1 訓練データが限られる初期段階において、モデルの不確実性に強く耐性を持つバッチアクティブラーニングは、どのように実現できるか？
• RQ2 決定的アニーリングによるモデル不確実性の組み込みが、初期アクティブラーニング段階におけるサンプル選択の質をどの程度向上させるか？
• RQ3 深層ネットワークに組み込むノイズ除去層は、アクティブラーニングにおけるノイズラベルによる性能低下を効果的に緩和できるか？
• RQ4 さまざまなレベルのラベルノイズ下で、提案手法は最先端のアクティブラーニングベースラインと比較して、精度と耐性の面で優れているか？
• RQ5 クラスタリング、重要度サンプリング、不確実性を考慮したサンプリングの組み合わせは、既存のバッチ取得戦略よりも優れた性能を発揮するか？

主な発見

• 提案手法DeAn（Denoising with Annealing）は、クリーンなラベルとノイズのあるラベルの両条件において、MNIST、SVHN、CIFAR10、EMNISTで最高の精度を達成した。
• CIFAR10で20％のラベルノイズ（ε=0.2）を想定した場合、32,000件のサンプル後、DeAnは50.43％のトップ1精度を達成し、次に優れた手法（VAAL）を2.5ポイント以上上回った。
• ノイズのない設定では、DeAnは全データセットおよび全取得ステップで、すべてのベースラインと同等またはそれを上回る性能を示した。
• ノイズの多い環境下で、ノイズ除去層の導入により平均1.5～2.5ポイントの性能向上が見られ、その有効性が裏付けられた。
• CIFAR100において、ε=0.1、0.2、0.3、0.4の全ノイズレベルで、BALD、Coreset、Entropy、VAALの各手法を常に上回り、32,000件のサンプルで最大4.5ポイントの向上を達成した。
• コールドスタート問題の緩和が明確に示された。不確実性に基づくベースラインと比較して、早期の取得ラウンドで収束が早く、高い精度を達成した。