[論文レビュー] Learning to Transfer: Unsupervised Meta Domain Translation

Jianxin Lin, Yijun Wang+2 more|arXiv (Cornell University)|Jun 1, 2019

Cancer-related molecular mechanisms research参考文献 32被引用数 5

ひとこと要約

本稿では、メタ学習フレームワークであるMeta-Translation GAN (MT-GAN) を提案する。MT-GAN は、一般化可能なモデル初期化を学習することで、最小限のデータで新しい非教師ありドメイン変換タスクへの高速適応を可能にする。敵対的学習とサイクル整合性正則化を組み合わせた同時訓練により、メタジェネレータとメタディスクリミネータを最適化し、少サンプルドメイン変換タスクで最先端の性能を達成する。CycleGAN や StarGAN を上回り、ドメインあたり5〜10サンプルの極めて少ないデータでも優れた性能を発揮する。

ABSTRACT

Unsupervised domain translation has recently achieved impressive performance with Generative Adversarial Network (GAN) and sufficient (unpaired) training data. However, existing domain translation frameworks form in a disposable way where the learning experiences are ignored and the obtained model cannot be adapted to a new coming domain. In this work, we take on unsupervised domain translation problems from a meta-learning perspective. We propose a model called Meta-Translation GAN (MT-GAN) to find good initialization of translation models. In the meta-training procedure, MT-GAN is explicitly trained with a primary translation task and a synthesized dual translation task. A cycle-consistency meta-optimization objective is designed to ensure the generalization ability. We demonstrate effectiveness of our model on ten diverse two-domain translation tasks and multiple face identity translation tasks. We show that our proposed approach significantly outperforms the existing domain translation methods when each domain contains no more than ten training samples.

研究の動機と目的

• 既存の非教師ありドメイン変換モデルがタスク間で一般化できないこと、および完全な再トレーニングなしでは新しいドメインに適応できないという限界を解決すること。
• 過去のタスク経験を活用することで、人間の少サンプル学習に類似した、新しいドメイン変換タスクへの迅速な適応を可能にすること。
• 多様なドメイン変換タスクにおいて、強固な初期化を実現するため、メタジェネレータとメタディスクリミネータを同時に最適化するメタ学習フレームワークの開発。
• 過去のタスクから効果的な適応戦略を学習することで、低データ環境における収束速度と性能を向上させること。

提案手法

• MT-GAN は、複数のドメイン変換タスクにわたるジェネレータとディスクリミネータの共有初期化を学ぶために、モデルに依存しないメタ学習（MAML）を用いるメタ学習パラダイムを採用する。
• 各メタトレーニングイテレーションでは、現在のジェネレータとディスクリミネータの状態を用いて、双方向変換タスクを合成し、ソースドメインとターゲットドメイン間でデュアル学習を実現する。
• メタテストサンプルにおける期待損失を最小化することで、ファインチューニングされたモデルが未観測タスクにうまく一般化することを保証する、サイクル整合性のメタ最適化目的関数を設計する。
• フレームワークは、敵対的学習とサイクル整合性を統合し、ジェネレータはドメイン間の画像変換を学習し、ディスクリミネータは本物と生成画像を区別する。
• メタ最適化プロセスは、メタテストデータにおける期待損失を最小化するようにメタパラメータを更新し、高速な収束と一般化を促進する。
• 本手法は、多様な二ドメインタスクおよび顔のアイデンティティ変換タスクでトレーニングされ、1〜10ショットの少サンプル設定で評価される。

実験結果

リサーチクエスチョン

• RQ1 ドメインあたりのサンプルが僅かにしかなく、一般化が難しい状況下でも、メタ学習が非教師ありドメイン変換における一般化性能を向上させることができるか？
• RQ2 提案されたMT-GANフレームワークは、CycleGAN や StarGAN といった標準的なGANベースのモデルと比較して、少サンプルドメイン変換においてどのように性能を発揮するか？
• RQ3 メタ学習で得た初期化は、新しいドメイン変換タスクにおけるファインチューニング段階で収束を早めるか？
• RQ4 訓練サンプル数の増加に伴い、モデルの性能がどこまで飽和するか、また、高ショット環境下での標準モデルと比較して、性能にどのような差が生じるか？

主な発見

• MT-GAN は、写真からアーティスト風、夏から冬、ラベルから写真など、10の多様な二ドメイン変換タスクにおいて、CycleGAN や StarGAN を大きく上回り、ドメインあたり5〜10サンプルの極めて少ないデータでも顕著な性能向上を示す。
• 顔のアイデンティティ変換タスクでは、10ショット学習でトップ1正答率21.12%を達成し、CycleGAN の19.04%を上回り、少サンプル設定において一貫した改善を示す。
• 収束速度が速く、初期トレーニング段階でサイクル整合性損失が急激に低下し、CycleGAN よりも最終的な損失値が低いことから、その高速性が裏付けられている。
• GANのモード崩壊などのトレーニング不安定性に対しても、CycleGAN よりも迅速に回復するため、過去のタスクから学習した強固な適応戦略が有効であることが示唆される。
• CycleGAN に対する性能向上は、サンプル数の増加に伴い減少する—10ショットでは2.08%の向上、25ショットでは0.41%の向上—これは、メタ学習が低データ環境下での恩恵が最も顕著であることを示している。
• モデルは未観測タスクに対しても良好に一般化し、多様なソースタスクで学習したメタ学習初期化により、新しいドメインペアに対しても効果的なファインチューニングが可能である。