[論文レビュー] Deep Active Learning: Unified and Principled Method for Query and Training

Changjian Shui, Fan Zhou+2 more|arXiv (Cornell University)|Nov 20, 2019

Machine Learning and Algorithms被引用数 42

ひとこと要約

この論文は WAAL を導入し、分布整合と対敵訓練を組み合わせた深層バッチアクティブラーニングにおけるクエリ取得と訓練の統一フレームワークを提示する。分布整合と対敵訓練、そして不確実性と多様性のクエリ戦略を統合し、性能と効率の向上を示す。

ABSTRACT

In this paper, we are proposing a unified and principled method for both the querying and training processes in deep batch active learning. We are providing theoretical insights from the intuition of modeling the interactive procedure in active learning as distribution matching, by adopting the Wasserstein distance. As a consequence, we derived a new training loss from the theoretical analysis, which is decomposed into optimizing deep neural network parameters and batch query selection through alternative optimization. In addition, the loss for training a deep neural network is naturally formulated as a min-max optimization problem through leveraging the unlabeled data information. Moreover, the proposed principles also indicate an explicit uncertainty-diversity trade-off in the query batch selection. Finally, we evaluate our proposed method on different benchmarks, consistently showing better empirical performances and a better time-efficient query strategy compared to the baselines.

研究の動機と目的

• ラベリング作業を削減しつつ一般化性能を向上させるための深層バッチアクティブラーニングの動機付け。
• 分布整合を通じてクエリ選択とモデル訓練を統一する principled な枠組みの提供。
• この設定において Wasserstein 距離が H- divergence より多様性をよりよく捉えることの実証。
• ラベリングされていないデータをクリティックネットワークを通じて活用する min-max 訓練目的の導出。
• 不確実性と多様性を組み合わせた実用的なバッチクエリアルゴリズムの開発。

提案手法

• アクティブ学習ループを、Wasserstein 距離（W1）を用いたラベル付きデータ分布と非ラベルデータ分布の間の分布整合としてモデル化する。
• 訓練損失を、DNNパラメータの学習とクエリバッチの選択を交互の最適化（min-max）で分離して導出する。
• 2段階の最適化（Wasserstein 対敵損失でのDNN訓練と、不確実性-多様性基準によるバッチのクエリ）を定式化。
• Kantorovich-Rubinstein 双対性を用いて、1-Lipschitz のクリティック g と特徴抽出器 f による Wasserstein 距離を実装する。
• 不確実性ベースのスコア（Worst-case または Uniform uncertainty）と Wasserstein 距離下の輸送コストで測定される多様性項を組み合わせた2項のクエリ損失を提案。
• ラベル付き/未ラベルデータのアンバランスを扱う冗長性トリックと、1-Lipschitz性を強制する勾配ペナルティ付きクリティックを導入。

実験結果

リサーチクエスチョン

• RQ1 深層バッチアクティブラーニングを、ラベル付きデータと未ラベルデータ間の principled な分布整合問題として定式化できるか。
• RQ2 Wasserstein 距離はクエリバッチ選択の多様性を H-divergence より良く捉えるか。
• RQ3 未ラベルデータを活用した unified min-max 訓練目的は深い AL の性能と効率を向上させるか。
• RQ4 クエリ段階で不確実性と多様性をExplicitにバランスさせることは、初期訓練と収束の速度を改善するか。
• RQ5 WAAL は標準的な AL ベースラインと比較して、一般画像分類ベンチマークでどの程度性能を発揮するか。

主な発見

• WAAL は Fashion-MNIST、SVHN、CIFAR-10 において複数回の実験で一貫してベースラインを上回る。
• WAAL は未ラベルデータを有効に活用することで初期訓練フェーズの性能改善が顕著。
• アブレーションにより Wasserstein ベースの対敵訓練が H-divergence ベースの手法より優れていることを示す。
• WAAL は 不確実性ベースの手法と比較してクエリ時間が同等かそれより速く、多様性を取り入れる。
• 提案された不確実性−多様性クエリ戦略は、単に不確実性ベースまたは単純な多様性ベースの方法よりも、バッチ選択の質を向上させる。
• Table 1 は WAAL のクエリ時間が報告された設定において他の手法に対して単位的であることを示す。