[論文レビュー] Deep Batch Active Learning by Diverse, Uncertain Gradient Lower Bounds

Jordan T. Ash, Chicheng Zhang+3 more|arXiv (Cornell University)|Jun 9, 2019

Machine Learning and Algorithms参考文献 46被引用数 280

ひとこと要約

BADGEは勾配ベースの不確実性と多様性を組み合わせてバッチを選択し、勾配埋め込みに対してk-means++を用いて追加のハイパーパラメータなしでラベルを照会し、アーキテクチャとバッチサイズを問わず堅牢な性能を示す。

ABSTRACT

We design a new algorithm for batch active learning with deep neural network models. Our algorithm, Batch Active learning by Diverse Gradient Embeddings (BADGE), samples groups of points that are disparate and high-magnitude when represented in a hallucinated gradient space, a strategy designed to incorporate both predictive uncertainty and sample diversity into every selected batch. Crucially, BADGE trades off between diversity and uncertainty without requiring any hand-tuned hyperparameters. We show that while other approaches sometimes succeed for particular batch sizes or architectures, BADGE consistently performs as well or better, making it a versatile option for practical active learning problems.

研究の動機と目的

• 実用的な設定で深層ニューラルネットワークのラベル効率的な学習を動機づける。
• アーキテクチャ、バッチサイズ、データセットを跨いで動作し、手調整されたハイパーパラメータなしで機能するバッチアクティブラーニングアルゴリズムを開発する。
• 勾配ベース表現を通じて不確実性と多様性の両方をバッチ選択にエンコードする。
• バッチ品質を保ちつつ高コストな確率的サンプリングを回避する、スケーラブルなサンプリング手法を提供する。

提案手法

• 未知の例ごとに勾配埋め込みを計算する：最終層に関するクロスエントロピー損失の勾配を取り、モデルの現在の予測ラベルを真の代替ラベルとして用いる。
• 勾配埋め込みの長さを不確実性と潜在的な更新の大きさの代理指標として用いる。
• 勾配埋め込み集合に対してk-means++のシードを用いてバッチを選択し、バッチ点の大きさと多様性の両方を促進する。
• 選択したバッチ点のラベルを反復的に照会し、モデルを再訓練し、T回繰り返す。
• 一般的なネットワーク構造下で、勾配埋め込みノルムが最終層の真の勾配ノルムを下回らないことを証明する。
• 複数のアーキテクチャ（MLP、ResNet、VGG）とデータセット（SVHN、CIFAR-10、MNIST、OpenML datasets）に渡って、いくつかのベースラインとBADGEを比較する。

実験結果

リサーチクエスチョン

• RQ1 BADGEは異なるアーキテクチャ、バッチサイズ、データセットにおいて、最先端のバッチアクティブラーニング手法を一貫して上回るか、同等か。
• RQ2 ハイパーパラメータ不要の勾配埋め込みベースのアプローチは、バッチ内で不確実性と多様性の両方を効果的に捉えられるか。
• RQ3 勾配埋め込みのk-means++サンプリングは、k-DPPのようなより複雑なサンプラーに対する計算効率的で堅牢な代理手法か。
• RQ4 実用的な深層学習設定で、BADGEは代表的サンプリング（多様性）および不確実性サンプリングのベースラインと比較してどうか。

主な発見

• BADGEは、アーキテクチャ、バッチサイズ、データセット設定のいずれにおいても、最良のベースラインと同等かそれ以上の性能を一貫して発揮する。
• 勾配埋め込みは不確実性の保守的な指標と潜在的な更新の方向を提供し、効果的なバッチ選択を可能にする。
• 勾配埋め込みに対するk-means++は、多様で高い大きさのバッチを生み出し、k-DPPサンプリングと同等かそれ以上で、実行時間が改善される。
• 多様性ベースの手法だけでは、複雑なデータや限られたアーキテクチャの事前知識で失敗することがあるが、BADGEは不確実性と多様性を組み合わせることで頑健性を維持する。
• 実験では、BADGEはコアセット、マージン、エントロピー、ランダムベースラインの性能と同等かそれを上回ることが多く、特に小さなバッチサイズと畳み込みアーキテクチャで顕著。