[論文レビュー] Active and Continuous Exploration with Deep Neural Networks and Expected Model Output Changes

Christoph Käding, Erik Rodner+2 more|arXiv (Cornell University)|Dec 19, 2016

Machine Learning and Algorithms参考文献 16被引用数 38

ひとこと要約

本論文は、深層ニューラルネットワーク向けの新しいアクティブラーニング手法を提案する。この手法は、すべてのネットワーク層にわたる勾配に基づく不確実性を近似することで、既知のクラスおよび未知のクラスの両方から、情報量の多い未ラベルデータバッチを継続的に選択するための期待モデル出力変化（EMOC）を用いる。本手法は、CIFAR100における精度向上と未知クラスの発見の両面で、ランダム選択、不確実性ベース、信頼度ベースのベースラインを上回る性能を発揮する。

ABSTRACT

The demands on visual recognition systems do not end with the complexity offered by current large-scale image datasets, such as ImageNet. In consequence, we need curious and continuously learning algorithms that actively acquire knowledge about semantic concepts which are present in available unlabeled data. As a step towards this goal, we show how to perform continuous active learning and exploration, where an algorithm actively selects relevant batches of unlabeled examples for annotation. These examples could either belong to already known or to yet undiscovered classes. Our algorithm is based on a new generalization of the Expected Model Output Change principle for deep architectures and is especially tailored to deep neural networks. Furthermore, we show easy-to-implement approximations that yield efficient techniques for active selection. Empirical experiments show that our method outperforms currently used heuristics.

研究の動機と目的

• 完全な再トレーニングを必要とせずに、未ラベルデータから学習する継続的かつ生涯にわたる視覚認識システムのニーズに対応する。
• ラベル付けのための最も情報量の多い未ラベル例（未知クラスを含む）を能動的に選択することで、人的ラベル付け作業の負荷を低減する。
• アクティブ選択を深層アーキテクチャに適応可能な、期待モデル出力変化（EMOC）原理の拡張を考案する。
• 一貫した勾配ベースの選択基準を用いて、既知のクラスと以前に見られなかったクラスの両方を同時に学習可能にする。

提案手法

• バックプロパゲーションされた勾配を用いて、すべての層にわたるモデル出力の期待変化を計算することで、EMOC原理を深層ニューラルネットワークに一般化する。
• 損失関数のネットワークパラメータに関する勾配の大きさを用いてEMOCを近似することで、大規模データセット上でも効率的な計算を可能にする。
• 継続的学習中に過学習を防ぐために、重み付きサンプリング戦略（λ=0.9 を旧データ、1−λ=0.1 を新データに使用）を用いたミニバッチ勾配降下法を採用する。
• 各更新ステップで25サンプルのバッチを選択し、モデル出力に最も大きな期待変化を引き起こすサンプルを優先する。
• 各更新後に新たにラベル付けされたバッチを段階的にモデルに統合し、各訓練バッチにおいて既知データと新規データのバランスを保つ。
• モデルが各ラベル付けバッチの後でファインチューニングされる継続的学習の設定に本手法を適用し、以前に見られなかったクラスの発見を可能にする。

実験結果

リサーチクエスチョン

• RQ1 期待モデル出力変化（EMOC）原理は、アクティブラーニングの文脈で深層ニューラルネットワークに効果的に一般化可能か？
• RQ2 EMOCベースの選択は、不確実性ベースおよび信頼度ベースの選択戦略と比較して、精度および未知クラス発見の観点でどのように異なるか？
• RQ3 EMOCベースのアクティブラーニングは、一貫した統合フレームワーク内で、既知のクラスと以前に見られなかったクラスの両方からの継続的学習を可能にするか？
• RQ4 提案手法は、未確認データにおけるモデル性能を維持または向上させつつ、どの程度ラベル付け作業の負荷を低減できるか？

主な発見

• 提案手法のEMOCベースの手法は、CIFAR100における精度向上と学習速度の両面で、ランダム選択、不確実性ベース（min）、信頼度ベース（max）のベースラインを上回る。
• すべてのベースラインと比較して、未知クラスの発見がより速やかに達成され、アクティブラーニングにおけるクラス発見の有効性が裏付けられる。
• 1-vs-2（上位2クラススコアの差）と min（最大クラススコアの最小値）のベースラインはほぼ同一の性能を示し、このデータセットでは曖昧なサンプルを区別する能力の限界が示唆される。
• max戦略（最も信頼度の高いサンプルを選択）は著しく性能が低く、既に知られているクラスのサンプルに偏る傾向があるため、新しい概念の探索が制限される。
• EMOCベースの手法は、全更新ステップにわたり一貫して高い平均精度を達成しており、安定的かつ持続的な性能向上が示される。
• 勾配に基づく近似により計算が効率的であるため、大きなオーバーヘッドを伴わず、大規模な未ラベルデータセットへのスケーラブルな適用が可能となる。