[論文レビュー] A Survey of Deep Active Learning

Pengzhen Ren, Xiao Yun+6 more|arXiv (Cornell University)|Aug 30, 2020

Machine Learning and Algorithms被引用数 39

ひとこと要約

本調査は DeepAL の包括的な分類と概要を提供し、課題、クエリ戦略、アーキテクチャ、適用分野、将来の方向性を詳述する。

ABSTRACT

Active learning (AL) attempts to maximize the performance gain of the model by marking the fewest samples. Deep learning (DL) is greedy for data and requires a large amount of data supply to optimize massive parameters, so that the model learns how to extract high-quality features. In recent years, due to the rapid development of internet technology, we are in an era of information torrents and we have massive amounts of data. In this way, DL has aroused strong interest of researchers and has been rapidly developed. Compared with DL, researchers have relatively low interest in AL. This is mainly because before the rise of DL, traditional machine learning requires relatively few labeled samples. Therefore, early AL is difficult to reflect the value it deserves. Although DL has made breakthroughs in various fields, most of this success is due to the publicity of the large number of existing annotation datasets. However, the acquisition of a large number of high-quality annotated datasets consumes a lot of manpower, which is not allowed in some fields that require high expertise, especially in the fields of speech recognition, information extraction, medical images, etc. Therefore, AL has gradually received due attention. A natural idea is whether AL can be used to reduce the cost of sample annotations, while retaining the powerful learning capabilities of DL. Therefore, deep active learning (DAL) has emerged. Although the related research has been quite abundant, it lacks a comprehensive survey of DAL. This article is to fill this gap, we provide a formal classification method for the existing work, and a comprehensive and systematic overview. In addition, we also analyzed and summarized the development of DAL from the perspective of application. Finally, we discussed the confusion and problems in DAL, and gave some possible development directions for DAL.

研究の動機と目的

• 高次元データにおけるラベリングコストを削減するために、深層学習（DL）とアクティブラーニング（AL）を組み合わせる価値を説明する。
• 正式な枠組みと DeepAL 手法・戦略の分類法を提供する。
• 分野を横断する既存の DeepAL アプリケーションを要約し、共通パターンとギャップを特定する。
• DL と AL の統合における課題を強調し、将来の研究の方向性を提案する。

提案手法

• プールベースの DeepAL フレームワークを定義し、標的精度を達成しつつラベルデータを減らす最適化目標を形式化する。
• DeepAL のクエリ戦略を、Batch Mode DeepAL (BMDAL)、不確実性ベースとハイブリッド戦略、深層ベイズアクティブラーニング（DBAL）、密度ベースの方法、および自動化された DeepAL デザインに分類する。
• モデル不確実性、ラベル付きサンプルのデータ不足、パイプラインの不整合といった DL 固有の課題を、ベイズ法、データ拡張、疑似ラベル、および半教師あり学習を用いてどのように対処するかを検討する。
• BALD や BatchBALD のようなバッチ取得戦略を説明し、不確実性のみのアプローチと多様性を考慮したアプローチ（例: Exploration-P, DMBAL, BADGE, WAAL, TA-VAAL）を対比する。
• 2 つのコア DeepAL コンポーネントを概説する：(i) 未ラベルデータ上の AL クエリ戦略、(ii) DL モデルのトレーニングと最適化プロセス。

(a) Structure diagram of convolutional neural network.

実験結果

リサーチクエスチョン

• RQ1 従来の AL 戦略を DL モデルに適用する際の主な課題は何か？
• RQ2 DeepAL で情報量とサンプルの多様性のバランスを取るようなバッチベースのクエリ戦略をどのように設計できるか？
• RQ3 （ベイズ、半教師あり、拡張などの）どの手法が DL ベースの AL が限定的なラベルデータと高い不確実性に対処するのを支援するか？
• RQ4 DeepAL のアーキテクチャとクエリ戦略を自動化したりタスク認識に対応させることで、分野を跨ぐ性能を向上させるにはどうすればよいか？
• RQ5 DeepAL の主な適用分野と将来の方向性は何か？

主な発見

• バッチベースのクエリ（BatchBALD）は、サンプル間の相関を考慮することで、1つずつの BALD より改善される。
• 不確実性ベースの戦略は小さなバッチに対しては単純で効果的だが、多様性と分布のカバーには悪影響を及ぼす可能性がある。
• 不確実性と多様性のバランスを取るハイブリッド戦略（例: BADGE、WAAL、TA-VAAL）は、過度なハイパーパラメータ調整なしに実践的な大きな期待を示す。
• ベイズ深層学習とデータ拡張は、 DL ベースの AL における過信とデータ不足を軽減するのに役立つ。
• DL にスケールし、高次元データを扱い、適用分野全体のエンドタスク性能と整合するバッチクエリ設計の必要性がある。

(b) The pool-based active learning cycle.