[論文レビュー] Rethinking deep active learning: Using unlabeled data at model training

Oriane Siméoni, Mateusz Budnik+2 more|arXiv (Cornell University)|Nov 19, 2019

Machine Learning and Algorithms参考文献 37被引用数 19

ひとこと要約

本稿では、各アクティブラーニングサイクルにおいて、自己教師付き事前学習と半教師あり学習を組み合わせることで、ラベルありデータとラベルなしデータの両方をモデル訓練中に活用する、新しい深層アクティブラーニングフレームワークを提案する。この手法は、標準的なベースラインと比較して最大15%の精度向上を達成しており、採択戦略の差を上回り、1クラスあたり1ラベルのみで近似的に教師あり学習に匹敵する性能を実現可能であることを示している。

ABSTRACT

Active learning typically focuses on training a model on few labeled examples alone, while unlabeled ones are only used for acquisition. In this work we depart from this setting by using both labeled and unlabeled data during model training across active learning cycles. We do so by using unsupervised feature learning at the beginning of the active learning pipeline and semi-supervised learning at every active learning cycle, on all available data. The former has not been investigated before in active learning, while the study of latter in the context of deep learning is scarce and recent findings are not conclusive with respect to its benefit. Our idea is orthogonal to acquisition strategies by using more data, much like ensemble methods use more models. By systematically evaluating on a number of popular acquisition strategies and datasets, we find that the use of unlabeled data during model training brings a surprising accuracy improvement in image classification, compared to the differences between acquisition strategies. We thus explore smaller label budgets, even one label per class.

研究の動機と目的

• アクティブラーニングにおける標準的な手法とは異り、ラベルなしデータを採択のためのものとしてのみではなく、モデル訓練中に活用する影響を調査すること。
• 低ラベルレジームにおいて、自己教師付き事前学習と半教師あり学習がモデルの精度を顕著に向上させられるかどうかを評価すること。
• ラベルなしデータを活用することによる性能向上が、従来の採択戦略の差を上回るかどうかを特定すること。
• 画像分類において極端なラベル予算（例：1クラスあたり1ラベル）が実現可能かどうかを検討すること。

提案手法

• パイプラインの開始時に、すべてのデータに対して自己教師付き事前学習（自己教師付き特徴学習）を一度実行し、モデル重みを初期化する。
• 各アクティブラーニングサイクルにおいて、ラベルあり・ラベルなしの両方のデータを、ラベル伝搬に基づく手法で訓練する半教師あり学習を適用する。
• 事前学習と半教師あり学習を統合した一貫した訓練パイプラインを構築し、標準的なラベルありデータのみの教師あり学習に置き換える。
• 不確実性サンプリング、コアセット選択、および新規の多様体ベース手法（jLP）を含む複数の採択戦略を用いて、ロバストネスを評価する。
• 比較可能性を確保し、事前学習と半教師あり学習の影響を明確に分離できるように、シンプルでモジュラーなパイプラインを採用する。
• SVHN、CIFAR-10、CIFAR-100、MNISTの複数のデータセットと、1ラベル/クラスを含むさまざまなラベル予算において性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 標準的手法と比較して、訓練中にラベルなしデータを活用することで、深層アクティブラーニングにおける分類精度が顕著に向上するか？
• RQ2 自己教師付き事前学習と半教師あり学習を併用することで、採択戦略の差を上回る大きな向上が得られるか？
• RQ3 ラベルなしデータを訓練に活用する場合、ランダム採択戦略はアクティブ採択戦略と比較してどの程度の性能を示すか？
• RQ4 事前学習と半教師あり学習を組み合わせた場合、1クラスあたり1つのラベル例のみを用いた際の影響は何か？
• RQ5 性能向上の主な要因は多様体構造のモデル化にあるのか、それとも単にラベルなしデータを訓練に活用しているからなのか？

主な発見

• 半教師あり学習により、ラベルあり・ラベルなしの両方のデータを訓練中に活用することで、CIFAR-10で100ラベル/サイクルの予算において、標準ベースラインと比較して15%の精度向上が達成された。
• CIFAR-10で100ラベル/サイクルの予算において、PRE + SEMI手法は、標準ベースラインが4サイクルで達成する性能を1サイクルで達成でき、アノテーションコストを顕著に削減した。
• MNISTで1クラスあたり1ラベルのみの状況において、ランダム採択戦略と組み合わせたPRE + SEMIは、2サイクルで90.89%の精度に到達し、SEM Iを適用しない他のすべての戦略を40%以上上回った。
• 半教師あり学習による向上は非常に顕著であり、評価されたすべての採択戦略間の性能差をも上回った。
• 自己教師付き事前学習は、初期の訓練サイクルで最も大きな利益をもたらし、モデル精度が向上するにつれて効果が減少した。
• 本研究では、訓練中にラベルなしデータを活用することが、採択戦略の選択よりもはるかに大きな影響を持つことが示された。特に低データレジームにおいて顕著であった。