[논문 리뷰] Learning to Learn Single Domain Generalization

Fengchun Qiao, L. Zhao외 1명|arXiv (Cornell University)|2020. 03. 30.

Domain Adaptation and Few-Shot Learning참고 문헌 52인용 수 8

한 줄 요약

이 논문은 단일 소스 도메인만 훈련에 사용 가능한 단일 도메인 일반화를 위한 메타학습 기반의 적대적 도메인 증강 방법인 M-ADA를 제안한다. 적대적 훈련을 통해 소스 도메인에서 벗어난 도메인의 '허구적'이지만 도전적인 도메인을 생성하고, 워샤프스키 오토에ncoder를 사용하여 최악의 경우 제약 조건을 완화함으로써, 여러 미리 보지 못한 도메인으로의 강건한 일반화를 가능하게 한다. CIFAR-10-C와 SYNTHIA와 같은 벤치마크에서 기존 방법에 비해 향상된 일반화 성능과 효율성을 달성하며, 최신 기술 수준(SOTA)의 성능을 기록한다.

ABSTRACT

We are concerned with a worst-case scenario in model generalization, in the sense that a model aims to perform well on many unseen domains while there is only one single domain available for training. We propose a new method named adversarial domain augmentation to solve this Out-of-Distribution (OOD) generalization problem. The key idea is to leverage adversarial training to create "fictitious" yet "challenging" populations, from which a model can learn to generalize with theoretical guarantees. To facilitate fast and desirable domain augmentation, we cast the model training in a meta-learning scheme and use a Wasserstein Auto-Encoder (WAE) to relax the widely used worst-case constraint. Detailed theoretical analysis is provided to testify our formulation, while extensive experiments on multiple benchmark datasets indicate its superior performance in tackling single domain generalization.

연구 동기 및 목표

• 단일 소스 도메인만 훈련에 사용 가능한 상황에서 여러 새로운 도메인으로의 일반화 문제를 해결한다.
• 기존의 도메인 일반화 및 적응 방법의 한계를 극복한다. 이러한 방법들은 다수의 소스 도메인 또는 타겟 도메인 데이터가 필요하다.
• 실제 타겟 데이터에 의존하지 않고도 다양한 외부 분포(OOD)의 '허구적' 도메인을 생성함으로써 모델의 강건성과 일반화 능력을 향상시키는 방법을 개발한다.
• 앙상블 모델을 피하고 계산 오버헤드를 줄임으로써 효율적이고 확장 가능한 훈련을 가능하게 하는 메타학습 프레임워크를 통해 실현한다.
• 특히 워샤프스키 오토에ncoder를 활용한 최악의 경우 제약 조건 완화에 대한 이론적 근거를 제공한다.

제안 방법

• 소스 도메인에서 벗어난 외부 분포(OOD)의 도메인을 시뮬레이션하기 위해 적대적 도메인 증강(ADA)을 제안한다. 이는 도전적인 합성 도메인을 생성함으로써 분포 이탈을 모의한다.
• 도메인 일반화에서 엄격한 최악의 경우 제약 조건을 워샤프스키 오토에ncoder(WAE)를 통해 완화한다. 이는 입력 공간에서 큰 도메인 이탈을 유도하면서도 의미적 일관성을 유지하도록 한다.
• 훈련을 이중 최적화 과정을 통해 메타학습 문제로 공식화한다. 이는 모델이 다양한 허구적 도메인에 대해 신속하게 적응하도록 한다.
• 메타러너를 사용하여 모델 파라미터를 최적화함으로써, 적대적으로 생성된 도메인의 광범위한 분포에 걸쳐 모델이 잘 일반화되도록 한다.
• 메타학습 프레임워크 내부에 적대적 훈련을 통합하여, 도메인 이탈을 극대화하면서도 의미적으로 타당한 변형을 생성하는 편향을 유도한다.
• 모델을 소스 도메인 데이터와 적대적으로 생성된 도메인의 조합을 사용해 엔드 투 엔드로 훈련하며, 모든 허구적 도메인에 걸쳐 최악의 위험을 최소화하는 것을 목표로 한다.

실험 결과

연구 질문

• RQ1 단일 소스 도메인에서 훈련된 모델이 여러 새로운 외부 분포(OOD) 타겟 도메인으로 효과적으로 일반화할 수 있는가?
• RQ2 실제 타겟 데이터 없이 적대적 훈련을 어떻게 활용하여 현실적이면서 도전적인 '허구적' 도메인을 도메인 일반화에 활용할 수 있는가?
• RQ3 WAE 기반 정규화를 통해 도메인 일반화에서 최악의 경우 제약 조건을 완화할 경우의 영향은 무엇인가?
• RQ4 메타학습은 앙상블 또는 반복적 미세조정 기반 접근법에 비해 단일 도메인 일반화의 효율성과 일반화 성능을 어떻게 향상시킬 수 있는가?
• RQ5 제안된 방법은 기존 최신 기술 수준(SOTA)의 방법들보다 단일 도메인 일반화 및 소수의 도메인 적응 설정에서 얼마나 뛰어나게 성능을 발휘하는가?

주요 결과

• CIFAR-10-C 벤치마크에서 M-ADA는 평균 손상 오차(mCE) 65.59와 상대적 mCE(RmCE) 0.82를 기록하며, GUD 및 ERM와 같은 기존 방법들을 능가하는 최신 기술 수준(SOTA)의 성능을 달성한다.
• SYNTHIA 세그멘테이션 벤치마크에서 M-ADA는 한 개의 소스 도메인에서 출발해 여러 새로운 환경으로 일반화할 때 평균 mIoU 55.98%를 기록하며, FADA 및 CCSA와 같은 기존 방법들을 능가한다.
• MNIST, USPS, SVHN에서의 소수의 도메인 적응 설정에서 M-ADA는 경쟁력 있는 정확도를 기록한다(예: 7장의 샘플로 MNIST→SVHN에서 79.52% 정확도), 비지도 기반 기준선을 능가하며 강력한 전이 능력을 보여준다.
• 모델의 강건성이 향상되었으며, M-ADA는 SYNTHIA의 Highway/Dawn 설정에서 평균 22.33%의 정확도를 기록했고, ERM는 18.70%, GUD는 19.66%를 기록했다.
• 제거 분석 결과, WAE 기반의 최악의 경우 제약 조건 완화가 일반화 능력을 향상시키고 훈련의 불안정성을 감소시킴을 확인했으며, 메타학습은 더 적은 반복 수로도 더 빠른 적응을 가능하게 했다.
• CIFAR-10-C의 다양한 손상 유형에 대해 효과적인 일반화를 보였으며, M-ADA는 손상 수준 5에서 'Fog'에 대해 69.36%의 정확도, 'Snow'에 대해 80.62%의 정확도를 기록하여 강력한 강건성을 입증했다.