[論文レビュー] Agnostic Domain Generalization.

Fabio Maria Carlucci, Paolo Russo+2 more|arXiv (Cornell University)|Aug 3, 2018

Domain Adaptation and Few-Shot Learning参考文献 36被引用数 12

ひとこと要約

本論文は、複数のソースドメインからアノニマス（スタイルに依存しない）画像を想起することで、ラベルなしのターゲットデータを必要とせずにクロスドメイン一般化を向上させるドメイン一般化手法を提案する。画像レベルと特徴量レベルの二重の敵対的ドメイン識別器を備えたディープアーキテクチャを用いることで、ドメイン固有のスタイルとカテゴリカルな知識を分離し、マルチソースドメイン適応およびドメイン一般化の両設定で最先端のパフォーマンスを達成する。

ABSTRACT

The ability to generalize across visual domains is crucial for the robustness of artificial recognition systems. Although many training sources may be available in real contexts, the access to even unlabeled target samples cannot be taken for granted, which makes standard unsupervised domain adaptation methods inapplicable in the wild. In this work we investigate how to exploit multiple sources by hallucinating a deep visual domain composed of images, possibly unrealistic, able to maintain categorical knowledge while discarding specific source styles. The produced agnostic images are the result of a deep architecture that applies pixel adaptation on the original source data guided by two adversarial domain classifier branches at image and feature level. Our approach is conceived to learn only from source data, but it seamlessly extends to the use of unlabeled target samples. Remarkable results for both multi-source domain adaptation and domain generalization support the power of hallucinating agnostic images in this framework.

研究の動機と目的

• 実世界の設定においてラベルなしのターゲットデータが利用できない状況でのドメイン一般化の課題に対処すること。
• ターゲットドメインデータに依存せずに、複数のソースドメインから強力な表現を学習する手法を開発すること。
• 現実的ではあるがスタイルに依存しない想起されたアノニマス画像が、視覚ドメイン間での一般化を向上させることの有効性を検証すること。
• 利用可能な場合に限り、ラベルなしのターゲットサンプルをシームレスに統合できるトレーニングフレームワークを設計すること。

提案手法

• 本手法は、セマンティックコンテンツを保持しつつドメイン固有のスタイルを排除するように、ソースデータから画像を想起するディープジェネレーティブアーキテクチャを採用する。
• 画像レベルと特徴量レベルの両方で動作する2つの敵対的ドメイン識別器を用いる。両者ともドメイン固有の特徴を分離するように訓練される。
• 画像レベルの識別器は、生成された画像が視覚的に妥当でありながらスタイルに依存しないことを保証する。一方、特徴量レベルの識別器は、ドメイン不変の表現を強制する。
• モデルはソースデータのみで訓練されるが、後からラベルなしのターゲットデータが提供されても、未確認ドメインに対して効果的に一般化できる。
• 敵対的トレーニングとピクセルレベルの適応を通じて、エンドツーエンドでドメイン不変の特徴を学習するフレームワークが提供される。
• 本手法は、トレーニング中にラベルなしのターゲットサンプルを追加可能であり、アノテーションを必要とせずにパフォーマンスを向上させることができる。

実験結果

リサーチクエスチョン

• RQ1 トレーニング時にターゲットドメインデータが完全に利用できない状況下でも、モデルが視覚ドメイン間で効果的に一般化できるか。
• RQ2 画像の想起が、ドメイン固有のスタイルを除去しつつセマンティックコンテンツを効果的に保持できるか、一般化性能向上にどの程度寄与するか。
• RQ3 ターゲットデータを一切使用しないでトレーニングされたモデルが、ターゲットデータを用いる手法と同等のパフォーマンスを達成できるか。
• RQ4 再トレーニングを必要とせずに、本手法をラベルなしのターゲットサンプルの統合に拡張できるか。
• RQ5 画像レベルと特徴量レベルの両方で敵対的トレーニングを実施することで、単一レベルのアプローチに比べてより優れたドメイン不変表現が得られるか。

主な発見

• 本手法は、トレーニング時にいかなるターゲットデータも使用しない状況でも、マルチソースドメイン適応ベンチマークで最先端のパフォーマンスを達成する。
• 想起されたアノニマス画像は、カテゴリカルな知識を効果的に保持しつつ、ソース固有のスタイルを排除しており、強力な一般化を実現する。
• 未確認ドメインに対しても良好に一般化され、ゼロショットドメイン一般化設定におけるロバスト性を示す。
• ラベルなしのターゲットデータを統合すると、パフォーマンスがさらに向上し、本手法の柔軟性とスケーラビリティが示される。
• 画像レベルと特徴量レベルの両方での敵対的トレーニングにより、単一レベルのアプローチに比べてより明確に分離されたドメイン不変の表現が得られる。
• 標準ベンチマークにおいて、既存のドメイン一般化および教師なしドメイン適応手法を上回り、本手法の有効性が確認される。