[論文レビュー] Active Learning: Problem Settings and Recent Developments

Hideitsu Hino|arXiv (Cornell University)|Dec 8, 2020

Machine Learning and Algorithms参考文献 96被引用数 30

ひとこと要約

この論文はアクティブ学習の問題設定、獲得関数、理論的保証、停止基準、適用についてレビューし、最近の傾向と実務上の考慮事項を強調する。

ABSTRACT

In supervised learning, acquiring labeled training data for a predictive model can be very costly, but acquiring a large amount of unlabeled data is often quite easy. Active learning is a method of obtaining predictive models with high precision at a limited cost through the adaptive selection of samples for labeling. This paper explains the basic problem settings of active learning and recent research trends. In particular, research on learning acquisition functions to select samples from the data for labeling, theoretical work on active learning algorithms, and stopping criteria for sequential data acquisition are highlighted. Application examples for material development and measurement are introduced.

研究の動機と目的

• アクティブ学習の基本的な問題設定と、教師付き学習におけるラベル付きデータとラベルなしデータの役割を説明する。
• 獲得関数とラベル付けするサンプルを選ぶ基準を調査する。
• アクティブ学習における理論的保証、サンプル/ラベルの複雑性、停止基準を議論する。
• 測定と材料開発の応用を例示して、実用的関連性を示す。

提案手法

• X（説明的）とY（応答）、仮説、損失関数、バージョン空間の概念を用いたアクティブ学習フレームワークを定義する。
• ストリームベースとプールベースのアクティブ学習設定を区別し、効率を高めるバッチ選択を検討する。
• 不確実性、マージン、エントロピー、BALD、QBCなどの獲得関数を、理論的基盤を含めてレビューする。
• 保証の道具としてサブモジュラリティと適応サブモジュラリティを、バッチおよび適応設定で説明する。
• メタ学習、強化学習、バンディット形式を通じて獲得関数を学習することについて論じる。
• サンプル/ラベルの複雑性と、アクティブ学習が利益をもたらす条件に関する理論的結果を要約する。

実験結果

リサーチクエスチョン

• RQ1 アクティブ学習手法がパッシブ学習に比べてラベル複雑性を削減するのはどのような問題条件のときか。
• RQ2 獲得関数はストリームベースおよびプールベースの設定における学習の効率と効果にどのように影響するか。
• RQ3 バッチおよび適応的アクティブ学習に対する理論的保証は何があり、サブモジュラリティの概念はどう寄与するか。
• RQ4 獲得関数は強化学習、メタ学習、バンディットフレームワークを通じて学習・適応できるのか。
• RQ5 現実世界のアプリケーションにおける逐次データ取得の実務的考慮事項と停止基準は何か。

主な発見

• アクティブ学習は、特定の条件と設定下で、ラベル付きサンプルを少なくして高い予測精度を達成できる。
• 不確実性ベース、マージン、エントロピー、BALDタイプの獲得関数はサンプル選択の中心であり、それらの有効性はデータ分布とモデルに依存する。
• バッチおよび適応的サブモジュラリティは、貪欲法やバッチ選択戦略に対して近似保証を提供する。
• 実現可能性 vs 実現不可能性の設定とノイズ条件に応じて、ラベル複雑性の改善は異なるという理論的結果がある。
• 最近の研究は、強化学習、メタ学習、深層モデルを用いて大規模問題の獲得関数を学習することを探究している。