[논문 리뷰] Progressive Domain Expansion Network for Single Domain Generalization

Lei Li, Ke Gao외 7명|arXiv (Cornell University)|2021. 03. 30.

Domain Adaptation and Few-Shot Learning참고 문헌 46인용 수 13

한 줄 요약

이 논문은 단일 도메인 일반화를 위한 새로운 프레임워크인 프로그레시브 도메인 확장 네트워크(PDEN)를 제안한다. PDEN은 작업 모델과 도메인 생성기를 동시에 훈련시켜 점진적으로 안전하고 다양한 미사용 도메인을 합성한다. 확장된 도메인에서 대비 학습을 활용함으로써, 도메인 불변 표현 학습을 향상시켜 분류 및 세분화 벤치마크에서 최신 기술 대비 최대 15.28%의 정확도 향상을 달성한다.

ABSTRACT

Single domain generalization is a challenging case of model generalization, where the models are trained on a single domain and tested on other unseen domains. A promising solution is to learn cross-domain invariant representations by expanding the coverage of the training domain. These methods have limited generalization performance gains in practical applications due to the lack of appropriate safety and effectiveness constraints. In this paper, we propose a novel learning framework called progressive domain expansion network (PDEN) for single domain generalization. The domain expansion subnetwork and representation learning subnetwork in PDEN mutually benefit from each other by joint learning. For the domain expansion subnetwork, multiple domains are progressively generated in order to simulate various photometric and geometric transforms in unseen domains. A series of strategies are introduced to guarantee the safety and effectiveness of the expanded domains. For the domain invariant representation learning subnetwork, contrastive learning is introduced to learn the domain invariant representation in which each class is well clustered so that a better decision boundary can be learned to improve it's generalization. Extensive experiments on classification and segmentation have shown that PDEN can achieve up to 15.28% improvement compared with the state-of-the-art single-domain generalization methods.

연구 동기 및 목표

• 분포 이탈로 인해 한 도메인에서 훈련된 모델이 새로운 도메인에서 실패하는 단일 도메인 일반화의 과제를 해결한다.
• 합성 도메인 생성에 안전성과 효과성 제약 조건이 부족한 기존 데이터 증강 기반 방법의 한계를 극복한다.
• 도메인 확장과 표현 학습이 상호 보완적으로 향상되는 공동 학습 프레임워크를 개발한다.
• 미사용 분포 이탈을 시뮬레이션하는 다양한 광학적 및 기하학적 변형 도메인을 점진적으로 생성함으로써 모델의 강건성을 향상시킨다.
• 목표 도메인 데이터가 필요 없이 효과적인 일반화를 가능하게 하여, 실제 적용에서 목표 데이터가 확보되지 않는 경우에도 적합하다.

제안 방법

• 이중 스트림 프레임워크를 제안: 작업 모델의 어려운 샘플 분류 과제에 기반해 공동 최적화를 통해 훈련되는 도메인 확장 하위망과 도메인 불변 표현 학습 하위망.
• 작업 모델이 하드 샘플을 분류하는 데 어려움을 겪을 때를 기준으로 가이드된 생성망을 사용해 점진적으로 다수의 합성 도메인을 생성한다.
• 합성 도메인 생성 과정에서 안전성과 효과성 제약 조건을 도입하여, 의미적 내용을 유지하고 분포 붕괴를 방지한다.
• 소스 도메인과 확장된 도메인 간 특징을 정렬하기 위해 대비 학습을 적용함으로써, 클래스별 군집화와 개선된 결정 경계를 촉진한다.
• 다단계 훈련 전략을 사용: 업데이트된 소스 도메인에서 작업 모델을 미세조정하고, 더 어려운, 더 다양한 도메인을 생성하기 위해 생성망을 재학습하는 것을 번갈아 수행한다.
• 다양한 도메인 이동 유형(예: 날씨, 조명, 스타일 변화 등)을 지원하기 위해 생성망 네트워크를 유연하게 교체할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 목표 도메인 데이터에 접근할 수 없는 상황에서 프로그레시브 도메인 확장이 단일 도메인 일반화의 일반화 성능을 향상시킬 수 있는가?
• RQ2 어떻게 하면 분포 이탈 악화를 방지하면서 안전하고 효과적인 합성 도메인을 생성할 수 있는가?
• RQ3 확장된 도메인에서의 대비 학습이 도메인 불변 표현 학습을 어느 정도 향상시키는가?
• RQ4 도메인 확장과 표현 학습의 공동 학습이 다양한 도메인 이동에 걸쳐 강건성을 향상시키는 데 기여하는 정도는 어떠한가?
• RQ5 제안된 방법은 최소한의 목표 데이터로 소수 샘플 도메인 적응 설정에 일반화될 수 있는가?

주요 결과

• PDEN은 벤치마크 데이터셋에서 최신 기술 대비 최대 15.28%의 절대 정확도 향상을 달성한다.
• Digits 데이터셋에서 PDEN은 MADA를 능가하며, 확장된 도메인 수(K)가 증가할수록 정확도가 점진적으로 상승함을 보여, 더 안전하고 효과적인 도메인 생성을 확인한다.
• 제거 실험 결과, 적대적 손실(w_adv)과 사이클 일致 손실(w_cyc)을 증가시키면 성능 향상이 뚜렷하게 나타나며, 특히 SVHN과 MNIST-M과 같은 도전적인 도메인에서 두드러진다.
• 특징 공간의 시각화 결과, PDEN은 잘 분리되고 클래스별로 군집화된 특징을 학습하는 반면, 기준 모델은 특징 공간에서 심각한 클래스 혼합 현상을 보인다.
• 소수 샘플 도메인 적응 설정에서, 단지 몇 개의 목표 샘플로 PDEN 모델를 미세조정하면 성능 향상이 뚜렷하게 나타나, 동일 조건에서 MADA를 능가한다.
• 다양한 도메인 이동에 대해 잘 일반화되며, 특히 소스 도메인이 Highway-Dawn 또는 Highway-Fog일 경우 가장 큰 향상이 관찰되어, 복잡한 환경 변화에 대한 강력한 강건성을 입증한다.