[論文レビュー] A Boundary Based Out-of-Distribution Classifier for Generalized Zero-Shot Learning

Xingyu Chen, Xuguang Lan+2 more|arXiv (Cornell University)|Aug 9, 2020

Domain Adaptation and Few-Shot Learning参考文献 34被引用数 7

ひとこと要約

本論文は、一般化ゼロショット学習（GZSL）のための境界ベースの分布外（OOD）分類器を提案する。この手法は、可視クラスの境界多様体を単位超球上の共有潜在空間でモデル化するため、超球ベイジアン自己オートエンコーダー（SVAE）を用いる。学習段階で未学習クラスのデータを一切必要とせず、可視データからのみクラス中心と境界を学習することで、未学習サンプルを可視クラスから分離可能であり、二段階分類アプローチを実現。このアプローチは、5つのベンチマークで最先端の手法を上回る性能を達成する。

ABSTRACT

Generalized Zero-Shot Learning (GZSL) is a challenging topic that has promising prospects in many realistic scenarios. Using a gating mechanism that discriminates the unseen samples from the seen samples can decompose the GZSL problem to a conventional Zero-Shot Learning (ZSL) problem and a supervised classification problem. However, training the gate is usually challenging due to the lack of data in the unseen domain. To resolve this problem, in this paper, we propose a boundary based Out-of-Distribution (OOD) classifier which classifies the unseen and seen domains by only using seen samples for training. First, we learn a shared latent space on a unit hyper-sphere where the latent distributions of visual features and semantic attributes are aligned class-wisely. Then we find the boundary and the center of the manifold for each class. By leveraging the class centers and boundaries, the unseen samples can be separated from the seen samples. After that, we use two experts to classify the seen and unseen samples separately. We extensively validate our approach on five popular benchmark datasets including AWA1, AWA2, CUB, FLO and SUN. The experimental results demonstrate the advantages of our approach over state-of-the-art methods.

研究の動機と目的

• トレーニング段階で未学習サンプルが利用できない状況下で、GZSLにおける信頼性の高いゲーミングメカニズムを構築する課題に対処すること。
• 未学習クラスのデータを一切使用せず、可視クラスデータのみで可視と未学習のサンプルを区別するOOD分類器を開発すること。
• GZSLを二つの独立した問題に簡素化すること：未学習クラスのゼロショット学習と、可視クラスの教師あり分類。
• 埋め込みや生成的GZSL手法で一般的に見られる特徴の混同やバイアス問題を回避し、一般化性能を向上させること。

提案手法

• 視覚的特徴と意味的属性をクラスごとに一致させるために、超球上に共有潜在空間を学習し、超球ベイジアン自己オートエンコーダー（SVAE）を用いる。
• 各可視クラスを、平均方向がクラス中心に、集中度が多様体のタイトネスに対応する超球上でのボン・ミーゼス・ファイアー（vMF）分布としてモデル化する。
• vMF分布のパラメータを用いて、潜在空間における各クラスの多様体の境界を特定し、分布外サンプルの検出を可能にする。
• クラス中心と境界を用いて、サンプルを可視（多様体内）または未学習（多様体外）に分類する二値OODゲートを構築する。
• 特徴と属性の再構成損失、可視クラスを分離するためのコントラスト損失、および二値ゲートの分類損失を組み合わせた損失関数を用いて、OOD分類器をエンドツーエンドで訓練する。
• 最終分類のための二つの独立したエキスパートを適用する：可視サンプル（多様体内）向けと未学習サンプル（多様体外）向けで、二つのタスクを分離する。

実験結果

リサーチクエスチョン

• RQ1 共有潜在空間における有界な多様体をモデル化することで、未学習データを一切使用せずに信頼性のあるOOD分類器を学習可能か？
• RQ2 超球潜在空間におけるクラス中心と境界は、未学習サンプルと可視サンプルをどれほど効果的に分離できるか？
• RQ3 提案手法の境界ベースOOD分類器は、ZSLと教師あり分類タスクを分離することでGZSL性能を向上させるか？
• RQ4 潜在空間次元数やハイパーパrameterの変動に対して、この手法はどれほど頑健か？
• RQ5 このOOD分類器は、既存の最先端ZSL手法と効果的に組み合わせ可能か？

主な発見

• 提案手法は、全目的関数を用いた場合、AWA1でAUC 85.9%、CUBでAUC 75.9%を達成し、アブレーションバージョンを著しく上回る。
• コントラスト損失（$L_{cr}$）と分類損失（$L_{cls}$）の両方を含めることで、OOD検出性能が最良となり、AWA1ではAUCが81.5%から85.9%に上昇した。
• 本手法はさまざまなハイパーパrameter設定下でも安定した性能を示し、$α$および$β$の異なる設定でもAUCスコアが一貫して高い水準を維持した。
• 最適な潜在空間次元は128であり、AWA1ではAUCが85.9%、CUBでは75.9%にピークに達し、それ以上の次元ではさらなる向上が得られなかった。
• t-SNEによる可視化では、未学習特徴が可視クラスの有界な多様体の外側に散らばっていることが確認され、OOD検出メカニズムの有効性が裏付けられた。
• 本手法は、AWA1、AWA2、CUB、FLO、SUNの5つのベンチマークで最先端の性能を達成し、一般化性能と頑健性を示した。