[論文レビュー] Out-of-Domain Generalization from a Single Source: An Uncertainty Quantification Approach

Xi Peng, Fengchun Qiao+1 more|arXiv (Cornell University)|Aug 5, 2021

Domain Adaptation and Few-Shot Learning被引用数 5

ひとこと要約

本論文は、1つのソースドメインからの分布外一般化のためのメタラーニングベースの敵対的ドメイン拡張手法を提案し、不確実性の定量化を活用してロバスト性と安全性を向上させている。ワッサーシュタインオートエンコーダーとメタ最適化を用いて、意味的に一貫性のあるが挑戦的である『架空の』ドメインを生成することで、Digits、CIFAR-10-C、SYTHIAを含むベンチマークデータセットで最先端の性能を達成し、mIoUが著しく向上し、破損した入力に対する不確実性が低減された。

ABSTRACT

We are concerned with a worst-case scenario in model generalization, in the sense that a model aims to perform well on many unseen domains while there is only one single domain available for training. We propose Meta-Learning based Adversarial Domain Augmentation to solve this Out-of-Domain generalization problem. The key idea is to leverage adversarial training to create "fictitious" yet "challenging" populations, from which a model can learn to generalize with theoretical guarantees. To facilitate fast and desirable domain augmentation, we cast the model training in a meta-learning scheme and use a Wasserstein Auto-Encoder to relax the widely used worst-case constraint. We further improve our method by integrating uncertainty quantification for efficient domain generalization. Extensive experiments on multiple benchmark datasets indicate its superior performance in tackling single domain generalization.

研究の動機と目的

• 訓練に利用可能なドメインが1つしかない状況における分布外一般化の重要な課題に対処すること。
• 複数のドメインやターゲットドメインのデータを必要とする従来のドメイン一般化および適応手法の限界を克服すること。
• 1つのソースドメインから多様で現実的かつ挑戦的な『架空の』ドメインを生成するスケーラブルで効率的な手法を開発すること。
• 不確実性の定量化を統合して、ミッションクリティカルなアプリケーションにおけるモデルの信頼性と安全性を向上させること。
• 分布シフトや画像の破損を含む多様で未知のドメインに強い一般化を実現すること。

提案手法

• 1つのソースドメインから多様でOODに強いドメインを生成するためのメタラーニングベースの敵対的ドメイン拡張（SDG）を提案する。
• ワッサーシュタインオートエンコーダー（WAE）を用いて、極端なドメインシフトを許容しつつ意味的整合性を維持するため、最悪ケース制約を緩和する。
• メタラーニングを用いてモデルパラメータとドメイン拡張戦略を同時に最適化し、学習効率と一般化性能を向上させる。
• 訓練中に潜在特徴量と真のラベルの両方を同時に摂動させることで、ドメインの多様性とロバスト性を向上させる。
• 予測分散推定を用いた不確実性定量化を統合し、未知のドメインにおけるモデルの信頼性を評価・向上させる。
• 本手法をドメイン一般化および少数のサンプルでのドメイン適応の両方のタスクに適用し、移行可能性と柔軟性を示している。

実験結果

リサーチクエスチョン

• RQ1 訓練に利用可能なドメインが1つしかない状況で、モデルは複数の未知のドメインに効果的に一般化できるか？
• RQ2 敵対的訓練は、1つのソースから意味的に一貫性があり多様な『架空の』ドメインを生成するためにどのように適応可能か？
• RQ3 メタラーニングは敵対的ドメイン拡張の効率性と一般化能力を向上させることができるか？
• RQ4 不確実性定量化は、分布外一般化におけるロバスト性と安全性をどのように向上させるか？
• RQ5 提案手法は、画像分類およびセマンティックセグメンテーションのタスクを含む多様なベンチマークで最先端の性能を達成できるか？

主な発見

• 提案されたUncertain SDG手法は、SYTHIAデータセットで平均mIoUが81.53%を達成し、ERM、GUD、SDGを上回った。
• CIFAR-10-Cでは、mCEが13.5%、RmCEが15.2%と最低を記録し、画像の破損に対する優れたロバスト性を示した。
• MNIST、USPS、SVHNにおける少数のサンプルでのドメイン適応では、1クラスあたり10サンプルのターゲットデータで平均正答率81.53%を達成し、FADAやCCSAを上回った。
• 不確実性定量化分析の結果、未知のドメインにおける不確実性が低減されており、予測分散が低くなった。
• アブレーションスタディにより、潜在特徴量とラベルの両方を同時に摂動させることで、ドメイン一般化性能が顕著に向上することが確認された。
• 不確実性定量化の統合により、すべてのベンチマークで標準的なSDGよりも一貫した向上が得られ、特に挑戦的なOOD設定で顕著であった。