[論文レビュー] Domain-Aware Generalized Zero-Shot Learning.

Yuval Atzmon, Gal Chechik|arXiv (Cornell University)|Dec 24, 2018

Domain Adaptation and Few-Shot Learning参考文献 44被引用数 2

ひとこと要約

本論文では、学習済みクラス分類器、ゼロショット学習専門家、およびゲーティングネットワークを組み合わせた確率的でモジュラーなフレームワーク、ドメイン認識一般ゼロショット学習（DAZL）を提案する。このフレームワークにより、学習済みクラスと未学習クラスの両方における一般化性能が向上し、生成モデルですら凌駕する最先端の性能を達成している。軽量で訓練が容易であるにもかかわらず、AWA、CUB、SUNベンチマークで優れた性能を発揮している。

ABSTRACT

Generalized zero-shot learning (GZSL) is the problem of learning a classifier where some classes have samples, and others are learned from side information, like semantic attributes or text description, in a zero-shot learning fashion (ZSL). A major challenge in GZSL is to learn consistently for those two different domains. Here we describe a probabilistic approach that breaks the model into three modular components, and then combines them in a consistent way. Specifically, our model consists of three classifiers: A model that softly decides if a sample is from a class and two experts: a ZSL expert, and an expert model for seen classes. We address two main difficulties in this approach: How to provide an accurate estimate of the gating probability without any training samples for unseen classes; and how to use an expert predictions when it observes samples outside of its domain. The key insight in our approach is to pass information between the three models to improve each others accuracy, while keeping the modular structure. We test our approach, Domain-Aware GZSL (DAZL) on three standard GZSL benchmark datasets (AWA, CUB, SUN), and find that it largely outperforms state-of-the-art GZSL models. DAZL is also the first model that closes the gap and surpasses the performance of generative models for GZSL, even-though it is a light-weight model that is much easier to train and tune.

研究の動機と目的

• 学習済みクラスと未学習クラスの両方を分類する一般ゼロショット学習（GZSL）における一貫性ある性能向上に寄与すること。特に、後者に対しては訓練データが存在しないという課題に取り組む。
• 学習済みクラスと未学習クラスの間のドメインシフトを明示的にモデル化することで、モジュラーなアーキテクチャを用いてゼロショット一般化性能を向上させること。
• 複雑な生成モデルを凌駕するが、ハイパーパrameterの広範なチューニングを必要としない、軽量で訓練可能なフレームワークの開発。

提案手法

• モデルは3つのモジュラー構成要素で構成される：学習済みクラス分類器、ゼロショット学習（ZSL）専門家、およびサンプルが学習済みドメインまたは未学習ドメインに属する確率を推定するゲーティングネットワーク。
• ゲーティングネットワークは、セマンティック属性などの補助情報を利用して、未学習クラスの訓練データに依存せずにドメイン所属を推定する。
• 推論時に各専門家が互いに情報を共有できるようにすることで、相互に補い合うことで予測精度を向上させる、クロスモデル情報フローを実現する。
• ゲーティングネットワークがドメインの信頼度に基づいて動的に重み付けを行うことで、専門家の出力を確率的に組み合わせる。
• 分類精度とドメイン認識ゲーティングの両方を最適化する統合目的関数を用いて、エンドツーエンドでモデルを訓練する。
• 生成モデリングに依存せず、識別的専門家と軽量なゲーティング機構に依存することで、生成モデルを避ける。

実験結果

リサーチクエスチョン

• RQ1 未学習クラスの訓練データが存在しない状況で、テストサンプルが学習済みドメインか未学習ドメインかを正確に推定するにはどうすればよいか？
• RQ2 モジュラーで識別的なフレームワークは、複雑な生成モデルを上回ることができるか？
• RQ3 学習済みクラス専門家とゼロショット専門家との間で、どのように効果的に情報共有を行うことで、全体の分類精度を向上させられるか？
• RQ4 クラス不均衡や分布シフトの下で、明示的なドメイン認識がGZSLにおける一般化性能に与える影響は何か？
• RQ5 軽量で訓練可能なモデルは、最先端の生成的GZSLアプローチとの性能格差を埋めることができるか？

主な発見

• DAZLは、一般ゼロショット学習のためのAWA、CUB、SUNベンチマークデータセットで最先端の性能を達成した。
• 本モデルは、複雑な生成アーキテクチャに依存するモデルを含め、従来の識別的および生成的GZSLモデルをすべて上回った。
• 生成モデルとの性能格差を埋め、すべての3つのベンチマークでそれらを上回る性能を発揮した。
• 生成モデルの対比的アプローチに比べて、その軽量でモジュラーな設計のおかげで、はるかに訓練・チューニングが容易であった。
• 専門家間の情報共有により、特にデータが少ない状況下でも、学習済みクラスおよび未学習クラスの両方の分類精度が向上した。
• 未学習クラスの訓練データが一切不要なにもかかわらず、ゲーティングネットワークは未学習クラスに対する信頼性の高いドメイン推定を提供した。