[論文レビュー] Generative Adversarial Active Learning

Jia-Jie Zhu, José Maurício S. Bento|arXiv (Cornell University)|Feb 25, 2017

Machine Learning and Algorithms参考文献 22被引用数 130

ひとこと要約

GAALはGANを用いてオンデマンドで情報量のある学習クエリを生成し、学習を加速します。ときにプールベースのアクティブラーニングや完全教師ありモデルを上回ることさえあります。

ABSTRACT

We propose a new active learning by query synthesis approach using Generative Adversarial Networks (GAN). Different from regular active learning, the resulting algorithm adaptively synthesizes training instances for querying to increase learning speed. We generate queries according to the uncertainty principle, but our idea can work with other active learning principles. We report results from various numerical experiments to demonstrate the effectiveness the proposed approach. In some settings, the proposed algorithm outperforms traditional pool-based approaches. To the best our knowledge, this is the first active learning work using GAN.

研究の動機と目的

• 深層生成モデルを用いたクエリ合成を可能にすることで、アクティブラーニングにおけるラベル複雑性の低減を動機づける。
• クエリしてラベル付けする訓練例を適応的に生成するフレームワーク（GAAL）を開発する。
• 画像分類タスクで本アプローチを実証し、プールベースおよびセルフタウト学習のベースラインと比較する。
• 分布シフト下でのGAALの挙動を調査し、多様性や探索戦略などの潜在的な拡張を検討する。

提案手法

• 未ラベルデータ上でGANを訓練して、ジェネレーター G とディスクリミネーター D を学習させる。
• 小さなラベル付きデータ集合を初期化し、現在のラベル付きデータ上で線形SVM分類器を訓練する。
• 各反復で、min_z ||W^T phi(G(z)) + b|| を解いて、サンプルを決定境界に向けて押し出すことでクエリを生成する。
• G(z) サンプルに対して人間/オラクルのラベルをクエリし、それらを訓練セットに追加してから分類器を再訓練する。
• 必要に応じて phi を CNN フィーチャー抽出器に置換し、エンドツーエンドのディープラーニング・パイプラインを可能にする。
• 多様性の追加や異なるアクティブラーニング基準の使用など、潜在的な拡張について検討する。

実験結果

リサーチクエスチョン

• RQ1 GAALは、プールベースのアクティブラーニングと比較して学習効率を改善する情報量のある合成クエリを生成できるか？
• RQ2 限られたラベリング予算の下で、標準的なGANベースのデータ拡張やランダムサンプリングと比較してGAALはどうか？
• RQ3 探索や多様性を取り入れることは、トレインとテストデータ間の分布差に対するGAALの性能と堅牢性を向上させるか？

主な発見

• GAALは特定の設定で完全監督学習や一部のプールベース戦略よりも高い精度を達成できる。
• MNIST→USPS転送実験では、複数回の実行でGAALがSVMアクティブおよびランダムサンプリングのベースラインを上回った。
• 同一のトレイン/テスト分布を持つMNISTでは、GAALの精度は初期に監視下の学習を上回ることがあるが、約100サンプルを超えると、境界近傍の類似サンプルを生成するために低下する可能性がある。
• CIFAR-10の二値タスクでは、ラベラーが低品質の生成サンプルをより多く観察し、より高次元データでのスケーラビリティの課題を浮き彫りにした。
• 混合的なエクスプロイテーション-探索方式（周期的なランダムサンプリング）は、GAAL単独やランダムサンプリングだけよりも優れており、多様性の利点を示唆している。
• GAALは競争力のある性能を示し、セルフタウト学習との統合など、将来のGANベースのアクティブラーニング研究に指針を与える可能性がある。