[論文レビュー] Gone Fishing: Neural Active Learning with Fisher Embeddings

Jordan T. Ash, Surbhi Goel+2 more|arXiv (Cornell University)|Jun 17, 2021

Machine Learning and Algorithms参考文献 31被引用数 16

ひとこと要約

本稿では、Fisher情報を利用してラベル付けに適したサンプルのバッチを効果的に選択する、新しいニューラルアクティブラーニングアルゴリズムBaitを提案する。線形代数的構造を用いて最大尤度推定誤差の取り扱い可能な境界を最適化することで、多様なアーキテクチャやバッチサイズにおいて、分類および回帰タスクの両方で最先端の性能を達成し、Badge や Coreset といった先行手法を上回る。同時に、理論的根拠を備え、大規模スケールでも計算的に実行可能である。

ABSTRACT

There is an increasing need for effective active learning algorithms that are compatible with deep neural networks. This paper motivates and revisits a classic, Fisher-based active selection objective, and proposes BAIT, a practical, tractable, and high-performing algorithm that makes it viable for use with neural models. BAIT draws inspiration from the theoretical analysis of maximum likelihood estimators (MLE) for parametric models. It selects batches of samples by optimizing a bound on the MLE error in terms of the Fisher information, which we show can be implemented efficiently at scale by exploiting linear-algebraic structure especially amenable to execution on modern hardware. Our experiments demonstrate that BAIT outperforms the previous state of the art on both classification and regression problems, and is flexible enough to be used with a variety of model architectures.

研究の動機と目的

• 深層ニューラルネットワークと互換性があり、バッチ処理および非凸設定でも適用可能な原理的でスケーラブルなアクティブラーニングアルゴリズムの不足を解消すること。
• 深層学習の文脈において、理論的根拠を持つアクティブラーニングの目的関数と、実用的で高性能なアルゴリズムの間のギャップを埋めること。
• 分類にとどまらず、効果的な手法が限られる回帰タスクへのアクティブラーニングの拡張を図ること。
• 凸モデルおよび非凸モデルの両方に対応できる統一的かつ計算的に取り扱いやすいフレームワークを提供すること。

提案手法

• Baitは、Fisher情報に基づいて最大尤度推定誤差の境界を最適化することでアクティブラーニングを定式化し、モデルの条件付き確率分布 p(y|x,θ) から導出される。
• モデルパラメータに関する対数尤度の勾配の外積を用いてFisher情報行列を計算し、低ランク構造を活用して効率化する。
• Fisher情報行列の近似を1次元更新により行い、グリーディー最適化による効率的なバッチ選択を実現する。
• Fisher情報行列の上位k個の固有ベクトルを用いて、最も情報量の多いサンプルを同定する。この線形代数的構造は、現代のハードウェアに適している。
• 連続出力を確率的予測として扱うことで、分類固有の不確実性指標を必要とせず、回帰タスクへのFisherベースの選択を可能にした。
• バッチおよび逐次的アクティブラーニングの両方をサポートし、Fisher行列の低ランク近似により計算複雑度を管理可能にした。

実験結果

リサーチクエスチョン

• RQ1 過パラメータ化された深層ニューラルネットワークに対して、Fisher情報に基づくアクティブラーニングの目的関数を計算的に取り扱いやすくかつ効果的にできるか。
• RQ2 Fisherベースの選択戦略は、不確実性や多様性に基づく手法と比較して、モデルアーキテクチャの変化に伴い、性能および一般化能力においてどのように差をつけるか。
• RQ3 Fisherベースのアクティブラーニングは、多くの既存手法が失敗する回帰タスクへも拡張可能か。
• RQ4 Fisher情報の理論的根拠は、異なるバッチサイズやデータ分布において、より高いロバストネスと一貫性をもたらすか。
• RQ5 実世界のラベルが限られた環境での導入に耐えうるほど、アルゴリズムは効率的かつ高い性能を維持できるか。

主な発見

• Baitは、複数の分類データセットおよびアーキテクチャにおいて、Badge や Coreset といった最先端のベースラインを顕著に上回り、固定ラベル予算下での精度向上が一貫して得られた。
• 回帰タスクにおいても、Baitはランダムサンプリングや他のアクティブラーニング手法を上回る性能を達成しており、ベースラインが回帰を想定していない場合でも同様に有効であった。
• Baitは、バッチサイズやモデルアーキテクチャ（ResNet、MLP、線形モデルなど）の変化に対しても強固で一般化性に優れた性能を示した。
• Baitは計算的に効率的であり、Coresetと同等の実行時間であり、Fisher行列のランク1更新および低ランク近似のおかげでスケーラビリティに優れた。
• Baitは凸モデルでも良好な性能を発揮し、Badge らのような他の手法が性能を発揮できない状況でも優位性を示した。これは、理論的・実用的応用範囲の広がりを示している。
• 実験的結果から、BaitのFisherベースの選択は、非凸および凸の両設定において、不確実性や多様性に基づく戦略よりも情報量が多く、理論的基盤の妥当性が裏付けられた。