[論文レビュー] One-bit Supervision for Image Classification

Hengtong Hu, Lingxi Xie+3 more|arXiv (Cornell University)|Sep 14, 2020

Domain Adaptation and Few-Shot Learning参考文献 39被引用数 4

ひとこと要約

本論文は、1ビットの監視という新しい半教師あり学習の設定を導入する。この設定では、モデルが予測ラベルを照会し、各サンプルに対して「はい／いいえ」の応答のみを受け取る。これにより、アノテーションコストを著しく削減できる。複数段階の訓練フレームワークを用い、誤ったラベルの抑制を施すことで、時間の経過とともに予測の正確性が向上し、誤った予測を効果的に活用する。CIFAR100、Mini-ImageNet、ImageNetの各データセットにおいて、同じ監視予算のもとで、標準的な半教師あり学習を上回る高い正確性を達成した。

ABSTRACT

This paper presents one-bit supervision, a novel setting of learning from incomplete annotations, in the scenario of image classification. Instead of training a model upon the accurate label of each sample, our setting requires the model to query with a predicted label of each sample and learn from the answer whether the guess is correct. This provides one bit (yes or no) of information, and more importantly, annotating each sample becomes much easier than finding the accurate label from many candidate classes. There are two keys to training a model upon one-bit supervision: improving the guess accuracy and making use of incorrect guesses. For these purposes, we propose a multi-stage training paradigm which incorporates negative label suppression into an off-the-shelf semi-supervised learning algorithm. In three popular image classification benchmarks, our approach claims higher efficiency in utilizing the limited amount of annotations.

研究の動機と目的

• 大規模クラスの画像分類における高いアノテーションコストを削減するため、完全ラベルのアノテーションを単純な「はい／いいえ」フィードバックに置き換える。
• 1サンプルあたり1ビットの情報（正解／不正解）しか得られないような、疎で弱い監視のもとで効率的に学習するという課題に取り組む。
• 複数段階の訓練ステージを経て、モデルが生成する予測の正確性を向上させることで、モデルの性能を向上させる。
• 誤った予測を損失関数内で予測クラスの抑制によって処理し、否定的フィードバックを有用な学習信号に変換する。
• 1ビットの監視が、同等の監視ビット数のもとで、従来の半教師あり学習よりも高い学習効率を達成できることを示す。

提案手法

• 本手法は、モデルが非ラベルデータに対する予測を繰り返し照会する複数段階の訓練パラダイムを採用する。
• 各段階において、モデルは非ラベル画像のランダムサブセットに対して予測を行い、1ビットのフィードバック（正解／不正解）を受信する。
• 正解の予測は教師ありセットに追加され、不正解の予測は損失関数内で予測クラスの抑制に用いられる。
• 負のラベル抑制は、モデルが誤って予測したクラスに対しての信頼度を最小化することで実現され、誤った予測を有効な弱い負の信号に変換する。
• 初期段階では正確なラベルの小さな集合を用い、半教師あり学習のベースラインとして事前学習済みモデル（例：Mean-Teacher）を採用する。
• 各段階で拡張されたラベルセットと抑制された負の信号を用いてモデルを再訓練し、段階的に予測の正確性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 1サンプルあたり「はい／いいえ」の応答のみが与えられる1ビットの監視は、標準的な半教師あり学習よりも高い学習効率を達成できるか？
• RQ2 1ビットの監視における誤った予測は、無視されるのではなく、どのように有効な学習信号として活用できるか？
• RQ3 段階的に予測の正確性を向上させる複数段階の訓練フレームワークは、より良いモデル性能をもたらすか？
• RQ4 負のラベル抑制は、高クラス数の画像分類タスクにおいて、弱い監視からの学習を顕著に向上させられるか？
• RQ5 1ビットの監視と完全ラベルの半教師あり学習を、同じ数の監視ビットで制限した場合、どちらが優れているか？

主な発見

• 1ビットの監視により、1画像あたりの平均アノテーション時間が2.72秒（92.3％の正確性）にまで短縮された。これは、完全ラベルアノテーションの約1分と比較して、大規模クラス設定において著しく効率的であることを裏付けた。
• 負のラベル抑制を組み込んだ提案された複数段階フレームワークは、CIFAR100、Mini-ImageNet、ImageNetの各データセットにおいて、同じ数の監視ビットのもとで、標準的な半教師あり学習を上回る正確性を達成した。
• CIFAR100およびMini-ImageNetでは、20％の正確なラベルに加えて1ビットのフィードバックを用いることで、100％の正確なラベルを用いた半教師あり学習よりも学習効率が優れていた。
• 診断実験により、性能向上は主に不完全な監視のより効果的な活用、特に予測の正確性の向上と負のラベルの有効利用に起因することが確認された。
• 異なるクラス数を有するデータセットにおいても、本手法は頑健であることが示され、データが限られる状況での実世界への展開に強く期待できる。
• 本フレームワークは、オブジェクト検出やセマンティックセグメンテーションなどの他の視覚タスクにも一般化可能であり、類似した弱い監視パラダイムへの応用が可能であると考えられる。