[論文レビュー] DiDA: Disentangled Synthesis for Domain Adaptation

Jinming Cao, Oren Katzir+5 more|ArXiv.org|May 21, 2018

Domain Adaptation and Few-Shot Learning参考文献 19被引用数 21

ひとこと要約

本稿では、分離特徴学習を活用して、反復的に自己改善する非教師ありドメイン適応のフレームワークDiDAを提案する。ソースドメインとターゲットドメインの両方から共通（共有）特徴とドメイン固有の特徴を分離することで、DiDAは、ソースラベルとターゲット固有の属性を組み合わせて、現実的で疑似ラベル付きのターゲットドメイン画像を合成し、その画像を用いて分離とドメイン適応の両方を改善する。この結果、複数のベンチマークとバックボーンモデルにおいて一貫した性能向上が得られた。

ABSTRACT

Unsupervised domain adaptation aims at learning a shared model for two related, but not identical, domains by leveraging supervision from a source domain to an unsupervised target domain. A number of effective domain adaptation approaches rely on the ability to extract discriminative, yet domain-invariant, latent factors which are common to both domains. Extracting latent commonality is also useful for disentanglement analysis, enabling separation between the common and the domain-specific features of both domains. In this paper, we present a method for boosting domain adaptation performance by leveraging disentanglement analysis. The key idea is that by learning to separately extract both the common and the domain-specific features, one can synthesize more target domain data with supervision, thereby boosting the domain adaptation performance. Better common feature extraction, in turn, helps further improve the disentanglement analysis and disentangled synthesis. We show that iterating between domain adaptation and disentanglement analysis can consistently improve each other on several unsupervised domain adaptation tasks, for various domain adaptation backbone models.

研究の動機と目的

• ラベル付きソースデータとラベルなしターゲットデータの間で分布が著しく異なるドメインシフトの課題に対処すること。
• ソースドメインとターゲットドメインの両方において、共通でタスク関連の特徴とドメイン固有の分布特徴を明示的に分離することで、ドメイン適応の性能を向上させること。
• ソースドメインのラベルとターゲットドメイン固有の特徴を組み合わせることで、現実的で疑似ラベル付きのターゲットドメイン画像を合成し、より良い適応を実現するためのトレーニングデータを拡張すること。
• 改善された分離がドメイン適応を向上させ、逆に良好なドメイン適応が分離品質を向上させるフィードバックループを確立すること。

提案手法

• 本手法は、変分オートエンコーダーに基づくアーキテクチャを用いて、入力画像を共有（共通）特徴とドメイン固有特徴に分解する分離表現学習フレームワークを採用する。
• 共通特徴はソースドメインとターゲットドメインの両方から抽出され、ドメインを越えて一般化可能な分類器の学習に用いられる一方、ドメイン固有特徴はドメインアイデンティティを保持するように分離される。
• 合成されたターゲットドメイン画像は、ソース画像からの共通特徴（およびそれらのソースラベル）とターゲット画像からのドメイン固有特徴を組み合わせることで生成され、現実的で疑似ラベル付きのトレーニングサンプルが得られる。
• フレームワークはドメイン適応と分離学習を反復的に交互に実行する：ドメイン適応により共通特徴の品質が向上し、それが分離を改善する。逆に、より良い分離によりドメイン適応の性能も向上する。
• ドメイン適応モデルの性能と分離特徴の品質が複数の反復ステップにわたり共-evolve（共進化）する、改良のサイクルが確立される。
• 本手法はさまざまなバックボーンドメイン適応モデルと互換性があり、元の適応フレームワークへの変更を必要としない。

実験結果

リサーチクエスチョン

• RQ1 反復的分離とドメイン適応がフィードバックループで互いに向上させることで、全体のドメイン適応性能を向上させることができるか？
• RQ2 ソースラベルとターゲット固有特徴を用いた分離的合成により、ラベルなしターゲットデータへの一般化性能がどの程度向上するか？
• RQ3 分離された共通特徴とドメイン固有特徴は、タスク関連のコンテンツとドメイン固有の分布シフトをどの程度明確に分離できるか？
• RQ4 分離品質の向上が、ターゲットドメインベンチマークにおける分類精度の向上と相関するか？

主な発見

• DiDAは、MNIST→MNISTM（98%の精度）、MNIST→USPS（95%）、SVHN→MNIST（95%）を含む、複数の非教師ありドメイン適応ベンチマークで最先端の性能を達成し、ランダムチャンスやベースライン手法を著しく上回った。
• DiDAが抽出する共通特徴には強いクラス情報が含まれており、それらを用いて訓練した分類器は高い精度（98%、95%、95%）を示した。一方、ドメイン固有特徴を用いた分類器はランダムチャンスに近い性能（12%、11%、20%）を示し、高品質な分離が実現していることが示された。
• DiDAの反復処理に伴い、合成されたターゲットドメイン画像の視覚的品質が向上し、生成画像が外観とコンテンツの両面で実際のターゲットドメイン画像にますます類似するようになった。
• t-SNE可視化により、反復処理に伴い、ソースドメインとターゲットドメインの共通特徴がより一致し、クラスタリングが強化される一方、ドメイン固有特徴はより分離されるようになり、分離と特徴の明確化が向上していることが確認された。
• 分離とドメイン適応の間の反復的フィードバックにより、一貫した性能向上が得られ、両コンポーネントが相互に改善していることが示された。