[論文レビュー] FixBi: Bridging Domain Spaces for Unsupervised Domain Adaptation

Jaemin Na, Heechul Jung+2 more|arXiv (Cornell University)|Nov 18, 2020

Domain Adaptation and Few-Shot Learning参考文献 41被引用数 8

ひとこと要約

FixBi は、固定比率に基づくミックスアップを用いて複数の中間ドメインを生成することで、大きなドメイン差を埋める、画期的な教師なしドメイン適応手法を提案する。高信頼度予測における双方向マッチングと低信頼度予測における自己ペナルティを用いて、補完的なソース指向およびターゲット指向モデルを訓練し、Office-31、Office-Home、VisDA-2017 ベンチマークで最先端の性能を達成する。

ABSTRACT

Unsupervised domain adaptation (UDA) methods for learning domain invariant representations have achieved remarkable progress. However, most of the studies were based on direct adaptation from the source domain to the target domain and have suffered from large domain discrepancies. In this paper, we propose a UDA method that effectively handles such large domain discrepancies. We introduce a fixed ratio-based mixup to augment multiple intermediate domains between the source and target domain. From the augmented-domains, we train the source-dominant model and the target-dominant model that have complementary characteristics. Using our confidence-based learning methodologies, e.g., bidirectional matching with high-confidence predictions and self-penalization using low-confidence predictions, the models can learn from each other or from its own results. Through our proposed methods, the models gradually transfer domain knowledge from the source to the target domain. Extensive experiments demonstrate the superiority of our proposed method on three public benchmarks: Office-31, Office-Home, and VisDA-2017.

研究の動機と目的

• ソースドメインからターゲットドメインへの直接的適応が、顕著な周辺分布ギャップのため失敗する、教師なしドメイン適応（UDA）における大きなドメイン差の課題に対処すること。
• 大きなドメインシフトを考慮しない直接的ドメイン適応に依存する既存のUDA手法の限界を克服すること。
• 補完的な特徴を持つ中間ドメインを構築することで、ソースドメインからターゲットドメインへの効果的な知識転送を可能にする手法を開発すること。
• 疑似ラベルと一貫性正則化を活用する信頼度ベースの学習戦略により、モデルの汎化性能と耐性を向上させること。
• ターゲットドメインにラベルデータが存在しないにもかかわらず、標準的なUDAベンチマークで最先端の性能を達成すること。

提案手法

• ソースドメインとターゲットドメインの間で、制御された比率（固定比率）のソースおよびターゲットサンプルを用いて、複数の中間ドメインを生成する固定比率ベースのミックスアップ技術を導入し、ドメインのランダム性を最小限に抑える。
• ドメイン空間の異なる領域に最適化された2つの補完的モデル（ソース指向モデルとターゲット指向モデル）を訓練する。
• 各モデルの高信頼度疑似ラベルを用いた双方向マッチングを実装し、予測を一致させ、中間ドメインを段階的にターゲットドメインに近づける。
• 低信頼度予測に対して自己ペナルティを適用することで、自己学習によるモデルの耐性向上と過学習の低減を図る。
• ミニバッチ内の信頼度分布に基づく適応的信頼度閾値を採用し、固定閾値が過学習や未学習を引き起こすのを避ける。
• バランスの取れたソース・ターゲット比率を持つ拡張ドメインに対して一貫性正則化を適用し、訓練の安定性を高め、中間モデルの発散を防止する。

実験結果

リサーチクエスチョン

• RQ1 固定比率ベースのミックスアップは、ソースドメインとターゲットドメインの間のドメインギャップを低減する中間ドメインを効果的に生成できるか？
• RQ2 高信頼度予測における双方向マッチングは、教師なしドメイン適応における知識転送を改善するか？
• RQ3 ターゲットラベルが存在しない状況でも、低信頼度予測に対する自己ペナルティはモデルの耐性と性能を向上させるか？
• RQ4 信頼度分布に基づく適応的閾値は、固定閾値と比較してモデルの汎化性能をどのように向上させるか？
• RQ5 バランスの取れた中間ドメインにおける一貫性正則化は、モデルの発散を防ぎ、訓練の安定性を向上させるか？

主な発見

• FixBi は、ResNet-50 を用いて Office-31 で平均 91.4% の精度を達成し、ベースラインの MSTN よりも W→A タスクで 13.8% 高い性能を示した。
• Office-Home では、平均 72.7% の精度を達成し、SRDC や RSDA-MSTN より約 2% 高く、実写からアートへのドメインシフトタスクにおいて強力な性能を示した。
• ResNet-101 を用いた VisDA-2017 では、ベースラインの MSTN メソッドより平均 22.2% の精度向上を達成し、最先端の結果に並んだ。
• VisDA-2017 において、FixBi はミックスアップベースの手法 DMRL や DM-ADA よりも 12% の向上を達成し、中間ドメイン戦略の有効性を実証した。
• アブレーションスタディの結果、双方向マッチングと自己ペナルティの両方が性能向上に顕著な寄与を示し、一貫性正則化が訓練を安定化させた。
• 本手法は、ターゲットドメインにラベルデータを必要としないにもかかわらず、すべての3つのベンチマークで競争力のある結果を達成し、大きなドメインシフトに対して高い耐性を示した。