[論文レビュー] Meta-Learned Attribute Self-Gating for Continual Generalized Zero-Shot Learning

Vinay Kumar Verma, Kevin Liang+2 more|arXiv (Cornell University)|Feb 23, 2021

Domain Adaptation and Few-Shot Learning被引用数 4

ひとこと要約

本稿では、メタラーニングと自己ゲーティング属性、スケーリングされたクラス正規化を用いた、高速でスケーラブルなアプローチであるメタ継続的ゼロショット学習（MCZSL）を提案する。この手法は、一般化ゼロショット学習（GZSL）および継続的GZSLにおいて最先端の性能を達成しており、生成モデルベースの手法よりも100倍以上高速な学習を実現するとともに、順次学習設定における深刻な忘却を軽減する。

ABSTRACT

Zero-shot learning (ZSL) has been shown to be a promising approach to generalizing a model to categories unseen during training by leveraging class attributes, but challenges still remain. Recently, methods using generative models to combat bias towards classes seen during training have pushed the state of the art of ZSL, but these generative models can be slow or computationally expensive to train. Additionally, while many previous ZSL methods assume a one-time adaptation to unseen classes, in reality, the world is always changing, necessitating a constant adjustment for deployed models. Models unprepared to handle a sequential stream of data are likely to experience catastrophic forgetting. We propose a meta-continual zero-shot learning (MCZSL) approach to address both these issues. In particular, by pairing self-gating of attributes and scaled class normalization with meta-learning based training, we are able to outperform state-of-the-art results while being able to train our models substantially faster ($>100\ imes$) than expensive generative-based approaches. We demonstrate this by performing experiments on five standard ZSL datasets (CUB, aPY, AWA1, AWA2 and SUN) in both generalized zero-shot learning and generalized continual zero-shot learning settings.

研究の動機と目的

• 未学習クラスの一般化に高コストな生成モデルに依存する従来のゼロショット学習（ZSL）手法の限界を解消すること。
• モデルが新しいクラスを順次学習する際の深刻な忘却を回避しつつ、継続的ゼロショット学習を可能にすること。
• 高コストな生成学習を自己ゲーティングと正規化メカニズムに置き換えることで、堅牢性と効率性を向上させること。
• 動的環境下で少数のサンプルから素早く未学習クラスに適応できるメタラーニングフレームワークを構築すること。
• 5つの標準ベンチマークで、一般化ZSLおよび継続的GZSLの両方において最先端の性能を示すこと。

提案手法

• ノイズの多いまたは関係のない属性次元を抑制し、クラス固有の表現を学習するために、クラス属性埋め込みに自己ゲーティングを導入する。
• 既知クラスへのバイアスを軽減し、ゼロショット一般化を向上させるために、スケーリングされたクラス正規化（SCN）を適用する。
• 継続的学習における少数のサンプルからの素早い適応を可能にするために、一次のメタラーニング（例：MAML）を採用する。
• 完全なリプレイを必要とせず、過去のタスクサンプルのサブセットを格納する固定サイズのリザーバーを用いる。
• エンドツーエンドで学習可能なモデルとして、メタラーニングと属性自己ゲーティング、SCNを統合する。
• 各タスクが新しいクラス分布を模倣するように、少数のサンプルとタスクベースのメタラーニング目的関数でモデルを学習する。

実験結果

リサーチクエスチョン

• RQ1 生成モデルに依存せずに、属性への自己ゲーティングがゼロショット学習における堅牢性と一般化性能を向上させることができるか？
• RQ2 スケーリングされたクラス正規化は、一般化ゼロショット学習における既知クラスへのバイアスを効果的に低減できるか？
• RQ3 メタラーニングは、継続的学習設定において少数のサンプルでのみ新しい未学習クラスに素早く適応できるか？
• RQ4 提案されたMCZSLモデルは、複数のデータセットで強力なベースラインと比較して、継続的GZSLにおいてどのように性能を発揮するか？
• RQ5 自己ゲーティング、SCN、メタラーニングの各コンポonentが、継続的および一般化ZSLにおける全体の性能にどの程度寄与しているか？

主な発見

• MCZSLは、CUB、aPY、AWA1、AWA2、SUNの5つの標準GZSLデータセットで最先端の性能を達成し、従来の生成モデルベースの手法を上回った。
• 生成ベースラインと比較して、100倍以上高速に学習が可能でありながら、精度は同等または上回った。
• 固定継続的GZSL設定では、AWA1で53.12の調和平均、CUBで51.31を達成し、メタラーニングを除去した際のアブレーションでは3.23%の低下が確認された。
• 動的継続的GZSL設定では、CUB、AWA1、AWA2、SUNそれぞれで10.92%、7.01%、4.80%、2.30%の絶対的向上を達成した。
• アブレーションスタディにより、自己ゲーティングはCUBで1.02%、AWA1で2.04%の調和平均向上を示した一方、クラス正規化を除去するとAWA1で5.91%の性能低下が生じた。
• 1タスクあたりのクラス数の14倍のリザーバー容量が最適な性能をもたらし、固定および動的継続的学習プロトコルの両方で一貫した向上が得られた。