[論文レビュー] Generalized Zero-Shot Domain Adaptation via Coupled Conditional Variational Autoencoders

Qian Wang, Toby P. Breckon|arXiv (Cornell University)|Aug 3, 2020

Domain Adaptation and Few-Shot Learning参考文献 33被引用数 5

ひとこと要約

本論文は、教師ありドメインから未学習クラスのための合成ターゲットドメイン特徴量を生成するために、共通条件付き変分オートエンコーダー（CCVAE）を用いた、新しい一般化ゼロショットドメイン適応（GZSDA）フレームワークを提案する。共通の潜在空間においてドメインとクラス情報を同時にモデリングすることで、CCVAEは、特にデータが限られた状況下でも、既存のベースラインを上回る精度で、学習済みクラスおよび未学習クラスの両方の分類を実現する。

ABSTRACT

Domain adaptation approaches aim to exploit useful information from the source domain where supervised learning examples are easier to obtain to address a learning problem in the target domain where there is no or limited availability of such examples. In classification problems, domain adaptation has been studied under varying supervised, unsupervised and semi-supervised conditions. However, a common situation when the labelled samples are available for a subset of target domain classes has been overlooked. In this paper, we formulate this particular domain adaptation problem within a generalized zero-shot learning framework by treating the labelled source domain samples as semantic representations for zero-shot learning. For this particular problem, neither conventional domain adaptation approaches nor zero-shot learning algorithms directly apply. To address this generalized zero-shot domain adaptation problem, we present a novel Coupled Conditional Variational Autoencoder (CCVAE) which can generate synthetic target domain features for unseen classes from their source domain counterparts. Extensive experiments have been conducted on three domain adaptation datasets including a bespoke X-ray security checkpoint dataset to simulate a real-world application in aviation security. The results demonstrate the effectiveness of our proposed approach both against established benchmarks and in terms of real-world applicability.

研究の動機と目的

• 既存のドメイン適応およびゼロショット学習手法には、ターゲットクラスのうち一部しかラベルが付与されていない状況で失敗するというギャップがあることに対処する。
• ターゲットドメインにおける学習済みクラスおよび未学習クラスの両方を認識できる、新しい一般化ゼロショットドメイン適応（GZSDA）問題を定式化する。
• 未学習クラスのための合成ターゲットドメイン特徴量の生成によって、データの不均衡や学習済みクラスへの過学習を克服する。
• 分類とドメイン情報の両方を保持する統合的かつスケーラブルな手法を開発し、一般化性能を向上させる。

提案手法

• 共通の潜在空間にドメインとクラスの条件付き特徴表現を学習する、共通条件付き変分オートエンコーダー（CCVAE）を提案する。
• 教師ありドメインのサンプルを意味的プライアとして用い、未学習クラスのためのターゲットドメイン特徴量を生成し、単一の分類器を用いたエンドツーエンド学習を可能にする。
• ドメイン（ソース／ターゲット）およびクラスラベルの両方に条件づけてVAEを設計することで、ドメイン間生成時にクラス情報が保持されることを保証する。
• 両ドメインからの実際の特徴量と合成特徴量を統合して学習する統一分類器を訓練し、未学習クラスへの一般化性能を向上させる。
• 生成の複雑さを低減し分類性能に焦点を当てるために、ピクセル空間ではなく特徴空間で作業する。
• 双方向の生成メカニズムを実装：ソースからターゲット特徴量を生成し、逆にターゲットからソース特徴量を生成することで、データ拡張とドメイン整合性を強化する。

実験結果

リサーチクエスチョン

• RQ1 ターゲットドメインのクラスのうち一部しかラベルが付与されていない状況下で、生成モデルがソースドメインとターゲットドメインの間のドメインシフトを効果的に埋め合わせられるか。
• RQ2 ドメイン間特徴量生成時に、未学習クラスの認識を支援するために、どのようにクラス情報を保持できるか。
• RQ3 共通の潜在空間にドメインとクラスを同時にモデリングすることで、データが限られたターゲットドメインにおいて一般化性能が向上するか。
• RQ4 ソースサンプルからの合成データ生成が、航空輸送セキュリティスクリーニングのような実世界の応用においてゼロショット一般化を向上させられるか。

主な発見

• CCVAEは、カスタムX線セキュリティデータセットも含む3つのベンチマークデータセットで最先端の性能を達成し、CADA-VAE や LPP などの既存手法を上回る。
• X線セキュリティデータセット（BaggageXray）では、'Neg→Color'設定で70.6%の精度を達成し、次に良い手法（LPP：69.2%）およびベースライン手法を顕著に上回った。
• 'Color→Neg'設定では63.2%の精度を達成し、LPP（45.2%）および CADA-VAE（34.5%）を上回り、ドメインシフトに対して高いロバスト性を示した。
• CUB-200-2011およびCUB-200-2011-100データセットでは、それぞれ未学習クラスで90.2%および92.0%のトップ1精度を達成し、強力な一般化性能を示した。
• アブレーションスタディの結果、ドメインとクラスの両方の条件づけが不可欠であることが確認され、いずれかを除去すると性能が著しく低下した。
• 提案されたBaggageXrayデータセットは、将来的なGZSDA研究、特に航空輸送セキュリティ分野への応用を想定した現実的で挑戦的なベンチマークを提供する。