[論文レビュー] Aggregation of Disentanglement: Reconsidering Domain Variations in Domain Generalization

Daoan Zhang, Mingkai Chen+3 more|arXiv (Cornell University)|Feb 5, 2023

Domain Adaptation and Few-Shot Learning被引用数 5

ひとこと要約

本稿では、ドメイン固有の分類器とコントラスト学習を用いてドメイン専門特徴を学習することで、タスク固有のドメイン変化からドメイン不変特徴を分離する、ドメイン一般化のための新規フレームワークであるドメイン分離ネットワーク（DDN）を提案する。DDNはPACS、VLCS、OfficeHome、DomainNet、TerraIncognitaの複数のベンチマークで最先端の手法を上回り、未学習のターゲットドメインへの一般化を効果的に可能にするために、ソースドメインからの知識を統合する能力を発揮し、新たなSoTA性能を達成する。

ABSTRACT

Domain Generalization (DG) is a fundamental challenge for machine learning models, which aims to improve model generalization on various domains. Previous methods focus on generating domain invariant features from various source domains. However, we argue that the domain variantions also contain useful information, ie, classification-aware information, for downstream tasks, which has been largely ignored. Different from learning domain invariant features from source domains, we decouple the input images into Domain Expert Features and noise. The proposed domain expert features lie in a learned latent space where the images in each domain can be classified independently, enabling the implicit use of classification-aware domain variations. Based on the analysis, we proposed a novel paradigm called Domain Disentanglement Network (DDN) to disentangle the domain expert features from the source domain images and aggregate the source domain expert features for representing the target test domain. We also propound a new contrastive learning method to guide the domain expert features to form a more balanced and separable feature space. Experiments on the widely-used benchmarks of PACS, VLCS, OfficeHome, DomainNet, and TerraIncognita demonstrate the competitive performance of our method compared to the recently proposed alternatives.

研究の動機と目的

• 既存のドメイン一般化手法がドメイン不変特徴を重視する一方で、有用なタスク固有のドメイン変化を無視するという限界を是正すること。
• 下流分類タスクに有益なドメイン固有の特徴を学習・利用できるようにすること。
• ソースドメインからの分離済みドメイン専門特徴を統合することで、未学習のターゲットドメインに一般化できるフレームワークを構築すること。
• 分離されたドメイン専門特徴の分離性とバランスを向上させる新しいコントラスト学習戦略により、特徴表現の質を向上させること。

提案手法

• 本手法は、各ソースドメインごとにタスク固有の特徴を学習するドメイン固有分類器（DECs）を導入する。
• ドメインプロトタイプコントラスト学習（DPCL）を採用し、ドメイン内での特徴の一致とドメイン間での一様性を促進することで、特徴の分離を促進するコントラスト損失を実装する。
• モデルは入力画像を学習済みの潜在空間においてドメイン不変特徴とドメイン専門特徴に分離し、各ドメインごとに独立して分類が可能になる。
• 推論時、未学習のターゲットドメインからの特徴は、ソースドメインの専門特徴の集約空間にマッピングされ、効果的な一般化が可能になる。
• 特徴抽出には共有バックボーンを用い、タスク固有の変化を保持するためのドメイン固有ヘッドを備える。
• コントラスト学習の目的関数は、トレーニングの安定化と特徴の識別性向上を図るため、プロキシアンカーとメモリバンクを用いて最適化される。

Figure 1: Domains differ from each other. Some features that benefit classification tasks in one domain have no presence in other domains. For example, skin texture features in domain 1 (left) help in identifying the elephant, and in domain 2 (middle), no texture features are present for classificat

実験結果

リサーチクエスチョン

• RQ1 タスク固有のドメイン変化（ドメイン不変特徴のみでない）を活用することで、ドメイン一般化が向上するか？
• RQ2 ソースドメインからのドメイン固有特徴を効果的に分離・統合し、未学習のターゲットドメインを表現できるか？
• RQ3 コントラスト学習戦略が、異なるドメイン間でのドメイン専門特徴の分離性とバランスを向上させられるか？
• RQ4 ゼロショットドメイン一般化において、ドメイン専門特徴は純粋なドメイン不変表現を上回る性能を示すか？

主な発見

• PACSデータセットでは、DDNが平均87.2%の精度を達成し、次に良い手法よりも0.2%高い性能を示した。
• VLCSでは、平均83.8%の精度を達成し、多様なドメインシフトに対しても強力な一般化性能を示した。
• OfficeHomeでは、スケッチドメインで97.1%の精度を達成し、ドメイン固有のノイズや変化に対して高いロバスト性を示した。
• アブレーションスタディの結果、DPCLを削除するか、分類器を共有すると性能が著しく低下し、両者の必要性が裏付けられた。
• t-SNE可視化の結果、DDNの特徴はERMやSelfRegと比較して、クラス内クラスタがより緊密で、クラス間分布がより一様であることが確認された。
• バッチサイズのアブレーションでは、バッチサイズが大きくなるほど性能が向上し、コントラスト学習がトレーニングダイナミクスに敏感であることが確認された。

Figure 2: Left: The relationships between source and target domains.; Right: The disentangled task-specific domain variations and domain expert features of target domains.