[論文レビュー] A Meta-Learning Framework for Generalized Zero-Shot Learning

Vinay Kumar Verma, Dhanajit Brahma+1 more|arXiv (Cornell University)|Sep 10, 2019

Domain Adaptation and Few-Shot Learning参考文献 62被引用数 12

ひとこと要約

本論文は、分離された既知／未知クラスタスク上で学習することで、少数のサンプルでゼロショットと一般化ゼロショット学習を同時に最適化するメタラーニングベースの条件付きワサーラインGANフレームワークを提案する。aPYでは27.9%の相対的改善を達成し、CUB、AWA1、AWA2でも顕著な向上を示しており、既知クラスあたり5〜10サンプルでの学習でも顕著な性能を発揮する。

ABSTRACT

Learning to classify unseen class samples at test time is popularly referred to as zero-shot learning (ZSL). If test samples can be from training (seen) as well as unseen classes, it is a more challenging problem due to the existence of strong bias towards seen classes. This problem is generally known as \emph{generalized} zero-shot learning (GZSL). Thanks to the recent advances in generative models such as VAEs and GANs, sample synthesis based approaches have gained considerable attention for solving this problem. These approaches are able to handle the problem of class bias by synthesizing unseen class samples. However, these ZSL/GZSL models suffer due to the following key limitations: $(i)$ Their training stage learns a class-conditioned generator using only \emph{seen} class data and the training stage does not \emph{explicitly} learn to generate the unseen class samples; $(ii)$ They do not learn a generic optimal parameter which can easily generalize for both seen and unseen class generation; and $(iii)$ If we only have access to a very few samples per seen class, these models tend to perform poorly. In this paper, we propose a meta-learning based generative model that naturally handles these limitations. The proposed model is based on integrating model-agnostic meta learning with a Wasserstein GAN (WGAN) to handle $(i)$ and $(iii)$, and uses a novel task distribution to handle $(ii)$. Our proposed model yields significant improvements on standard ZSL as well as more challenging GZSL setting. In ZSL setting, our model yields 4.5\%, 6.0\%, 9.8\%, and 27.9\% relative improvements over the current state-of-the-art on CUB, AWA1, AWA2, and aPY datasets, respectively.

研究の動機と目的

• 既存の生成的ZSL/GZSLモデルの主な限界を解消する：トレーニング時に明示的な未知クラスの生成が行われないこと、共有パラメータの一般化性能の低さ、少数の既知クラス例での性能の悪さ。
• メタ学習された生成モデルを用いて、一般化ゼロショット学習（GZSL）におけるクラスバイアスを克服し、未知クラスのサンプルを合成する。
• 既知クラスあたり5〜10例のラベル付き例での学習により、現実のデータ不足状況を模倣しながら、効果的な少数のサンプルにおける一般化を可能にする。
• トレーニングクラスとバリデーションクラスが完全に分離された、新しいメタラーニングのタスク分布を設計し、モデルがトレーニング中に新しいクラスの生成を学習できるようにする。

提案手法

• モデルに依存しないメタラーニング（MAML）と条件付きワサーラインGAN（WGAN）を統合し、少数の勾配ステップで既知クラスおよび未知クラスに迅速に適応可能にする。
• 生成器、識別器、分類器にそれぞれ独立したメタラーナー・エージェントを追加することで、低ショット状況下での一般化性能とロバスト性を向上させる。
• 各エピソードのトレーニングクラスとバリデーションクラスが完全に分離された、新しいゼロショットメタラーニング（ZSML）タスク分布を設計し、メタトレーニング中に未知クラスのサンプル生成を学習できるようにする。
• クラス属性（例：word2vecや属性ベクトル）を条件として生成器に供給し、既知クラスおよび未知クラスの両方に対して現実的で高品質なサンプルを合成する。
• GANと同時に訓練される分類器ヘッドを用い、生成されたサンプルが現実的であるだけでなく、そのクラスラベルと意味的に整合していることを保証する。
• 敵対的損失とメタ最適化を用いて、実際のサンプルと生成されたサンプルの分布のずれを最小化するとともに、クラス固有の生成能力を維持するように、モデルをエンドツーエンドで訓練する。

実験結果

リサーチクエスチョン

• RQ1 メタラーニングベースの生成モデルは、既知クラスデータのみで学習し、かつクラスあたり少数のサンプル（例：5〜10例）での学習でも、高品質な未知クラスのサンプルを効果的に合成できるか？
• RQ2 メタトレーニングエピソードにおけるクラスの分離（ZSMLスプリット）は、標準的なMAMLスプリットと比較して、未知クラスへの一般化能力を向上させるか？
• RQ3 生成器および識別器の両方のコンポonentにメタラーナーを組み込むことで、少数のサンプルにおけるゼロショットおよび一般化ゼロショット学習の性能にどのような影響を与えるか？
• RQ4 提案フレームワークは、少数の既知クラス例を用いた状況下で、既存の最先端手法と比較して、ZSLおよびGZSLの分野でどの程度優れているか？

主な発見

• 提案モデルは、ZSL設定においてCUB、AWA1、AWA2、aPYの各データセットで、それぞれ4.5%、6.0%、9.8%、27.9%の相対的改善を、最先端手法を上回った。
• 既知クラスあたり5例のラベル付きサンプルでの学習でも、CUB、aPY、AWA2で最先端手法を上回り、強力な少数のサンプルにおける一般化性能を示した。
• 既知クラスあたり10例のサンプルでの学習でも、モデルはZSLにおいて既存手法を上回った。これは、他の手法が全トレーニングデータを用いている場合でも同様である。
• アブレーションスタディでは、識別器からメタラーナーを除去するとCUBで5.8%、AWA2で8.6%の精度低下が生じ、これはメタラーナーがフィードバック品質において極めて重要であることを示している。
• 生成器からメタラーナーを除去すると、CUBで2.2%、AWA2で7.9%の精度低下が生じ、メタ学習された生成器が高精細なサンプル生成に不可欠であることを示している。
• 新規に設計されたZSMLタスク分布（トレーニングクラスとバリデーションクラスが分離）は、標準的なMAMLスプリットと比較して、AWA2で1.7%、CUBで2.4%のZSL性能向上をもたらした。