[論文レビュー] Model Selection for Generalized Zero-shot Learning

Hongguang Zhang, Piotr Koniusz|arXiv (Cornell University)|Nov 8, 2018

Domain Adaptation and Few-Shot Learning被引用数 5

ひとこと要約

本稿では、一般化ゼロショット学習におけるクラス不均衡の問題に取り組むための新規なモデル選択フレームワークModelSelを提案する。本手法は、GANによって生成された補助データを用いて分類を「既知クラス」と「未知クラス」のタスクに分離することで、クラスの不均衡に起因するバイアスを低減し、4つのベンチマークデータセットで最先端の性能を達成する。

ABSTRACT

In the problem of generalized zero-shot learning, the datapoints from unknown classes are not available during training. The main challenge for generalized zero-shot learning is the unbalanced data distribution which makes it hard for the classifier to distinguish if a given testing sample comes from a seen or unseen class. However, using Generative Adversarial Network (GAN) to generate auxiliary datapoints by the semantic embeddings of unseen classes alleviates the above problem. Current approaches combine the auxiliary datapoints and original training data to train the generalized zero-shot learning model and obtain state-of-the-art results. Inspired by such models, we propose to feed the generated data via a model selection mechanism. Specifically, we leverage two sources of datapoints (observed and auxiliary) to train some classifier to recognize which test datapoints come from seen and which from unseen classes. This way, generalized zero-shot learning can be divided into two disjoint classification tasks, thus reducing the negative influence of the unbalanced data distribution. Our evaluations on four publicly available datasets for generalized zero-shot learning show that our model obtains state-of-the-art results.

研究の動機と目的

• クラス不均衡の問題に取り組むこと。一般化ゼロショット学習では、データ分布の偏りにより分類器が既知クラスに偏りがちである。
• 既存手法の限界を克服すること。一般化ゼロショット学習を一つの統合的分類タスクとして扱うことで、未知クラスへの一般化性能が劣ることがある。
• 生成的対抗ネットワーク（GAN）を活用して、未知クラスの補助データを合成し、モデルのロバスト性と一般化性能を向上させること。
• 既知クラスと未知クラスの分類を分離するモデル選択メカニズムを開発することで、より正確でバランスの取れた予測を可能にすること。
• データ不均衡の改善と分類器の特化を組み合わせることで、複数の標準的な一般化ゼロショット学習ベンチマークで最先端の性能を達成すること。

提案手法

• オリジナルの訓練データ（ラベル：1）と、未知クラス用にGANで生成されたデータ（ラベル：-1）を区別する線形SVM分類器（M_sel）を訓練し、データの起源を判別するセレクタを構築する。
• オリジナルの既知クラスデータ用に分類器M_sを、GANで生成された未知クラスデータ用にM_uを別々に訓練することで、各クラスタイプに特化した学習を可能にする。
• M_s、M_uおよび結合された既知・未知データを用いて訓練した統合分類器M_tを比較のため、SoftmaxLog分類器を用いる。
• 2つの変種を導入する：ModelSel-2Way（二値セレクタ）とModelSel-3Way（三値セレクタ）。ModelSel-2Way-SAはSVMスコアにシグモイド関数を適用してソフトアサインメントを組み込む。
• M_selの訓練前に、オリジナルデータおよび生成データの両方に対して正規化（平均と標準偏差）を適用し、分布の不均衡を軽減する。
• すべてのモデルをAdamを用いて最適化し、初期学習率1e-4、バッチサイズ60、50エポックで訓練する。ハイパーパrameterは交差検証により調整する。

実験結果

リサーチクエスチョン

• RQ1 既知クラスと未知クラスの分類を分離するモデル選択メカニズムは、一般化ゼロショット学習における性能向上に寄与するか？
• RQ2 既知クラスと未知クラスの分類器を別々に訓練することで、統合訓練と比較して精度とロバスト性にどのような影響を与えるか？
• RQ3 未知クラスに向けたGANによる補助データの使用は、一般化ゼロショット学習におけるクラス不均衡の悪影響をどの程度軽減するか？
• RQ4 SVMスコアにシグモイド関数を適用したソフトアサインメントは、モデルの一般化性能と精度にどのような影響を与えるか？
• RQ5 提案手法のModelSelフレームワークは、f-CLSWGAN や ZSKL といった最先端手法と比較して、多様なベンチマークデータセットでどのように性能を発揮するか？

主な発見

• ModelSel-3WayはFLOデータセットで66.4%の調和平均精度を達成し、前回の最先端手法f-CLSWGANを0.8ポイント上回った。
• AWA1ではModelSel-3Wayが62.4%の調和平均精度を達成し、f-CLSWGANより2.8ポイントの向上を示した。
• AWA2ではModelSel-3Wayが63.7%の調和平均精度を達成し、f-CLSWGANより3.6ポイントの向上を示した。
• APYではModelSel-2Way-SAが42.3%の調和平均精度を達成し、ZSKLの20.5%から顕著な向上を示し、困難な分割でも優れた性能を発揮した。
• ソフトアサインメントを組み込んだバージョン（ModelSel-2Way-SA）は、全データセットで一貫した向上を示しており、シグモイドベースのスコアキャリブレーションが一般化性能を向上させていることが示された。
• モデル選択メカニズムはクラス不均衡を効果的に緩和しており、特にAPYのような過去に困難であったベンチマークで、既知クラスおよび未知クラスの両方のスプリットで性能向上が確認された。