[논문 리뷰] Domain Generalization by Learning and Removing Domain-specific Features

Yu Ding, Lei Wang외 4명|arXiv (Cornell University)|2022. 12. 14.

Domain Adaptation and Few-Shot Learning인용 수 22

한 줄 요약

이 논문은 LRDG를 소개하는데, 이는 도메인 특유의 특징을 도메인 특이적 분류기와 인코더–디코더를 통해 명시적으로 제거하고 도메인 불변 모델을 학습하여 여러 벤치마크에서 최첨단 결과를 달성한다.

ABSTRACT

Deep Neural Networks (DNNs) suffer from domain shift when the test dataset follows a distribution different from the training dataset. Domain generalization aims to tackle this issue by learning a model that can generalize to unseen domains. In this paper, we propose a new approach that aims to explicitly remove domain-specific features for domain generalization. Following this approach, we propose a novel framework called Learning and Removing Domain-specific features for Generalization (LRDG) that learns a domain-invariant model by tactically removing domain-specific features from the input images. Specifically, we design a classifier to effectively learn the domain-specific features for each source domain, respectively. We then develop an encoder-decoder network to map each input image into a new image space where the learned domain-specific features are removed. With the images output by the encoder-decoder network, another classifier is designed to learn the domain-invariant features to conduct image classification. Extensive experiments demonstrate that our framework achieves superior performance compared with state-of-the-art methods.

연구 동기 및 목표

• 도메인에 대한 텍스처나 배경과 같은 도메인 특유의 단서를 의존하지 않는 도메인 일반화 가능한 모델의 필요성을 동기 부여한다.
• 보이지 않는 도메인으로의 일반화를 향상시키기 위해 도메인 특이적 특징을 명시적으로 제거하는 방법을 제안한다.
• 표준 도메인 일반화 벤치마크에서 프레임워크의 효과를 증명하고 일반화 위험 경계(bounds)를 통한 이론적 정당화를 제공한다.
• 도메인 특이적 특징을 제거하면 도메인 간 발산이 감소하고 대상 도메인 성능이 향상됨을 보여준다.

제안 방법

• N개의 도메인 특이적 분류기를 학습하되, 각 분류기는 하나의 소스 도메인 내에서 판별에 집중하고 다른 소스 도메인 간에는 판별하지 못하도록 한다.
• 도메인 특이적 분류기를 고정시키고 불확실성 기반 손실에 의해 안내되어 도메인 특이적 특징이 최소화되는 공간으로 입력을 매핑하는 인코더–디코더 M를 학습한다.
• 인코딩된 출력에 도메인 불변 분류기 F를 사용하여 도메인 간 일반화되는 특징을 학습한다.
• 손실들의 조합을 최적화한다: L1 = 도메인 특이적 분류기에 대한 분류 + 불확실성; L2 = 도메인 불변 모델에 대한 분류 + 불확실성 + 재구성.
• 도메인 특이적 특징이 제거될 때 도메인 발산(epsilon)과 목표 도메인 간 간격(gamma)이 감소함을 보이는 일반화 위험 경계에 의한 이론적 해석을 제공한다.

실험 결과

연구 질문

• RQ1 도메인 특이적 특징을 명시적으로 제거하면 보이지 않는 도메인에 대한 일반화가 향상될 수 있는가?
• RQ2 도메인 특이적 분류기와 인코더–디코더가 도메인 특이 단서를 효과적으로 억제하면서 도메인 불변 정보를 보존하는가?
• RQ3 학습된 도메인 불변 모델이 보이지 않는 도메인에서 최첨단 방법과 비교해 더 나은 성능을 달성하는가?

주요 결과

• LRDG는 세 가지 도메인 일반화 벤치마크에서 여러 백본을 활용해 우수하거나 경쟁력 있는 성능을 달성한다.
• 도메인 특이적 특징 제거는 매핑된 데이터의 프록시 A-거리로 측정한 쌍 간 도메인 발산을 감소시킨다.
• LRDG를 적용한 후 가장 가까운 혼합 소스 도메인에 대한 매핑된 대상 도메인 발산이 감소하여 정렬이 개선되었음을 나타낸다.
• 실험은 PACS, VLCS, 및 Office-Home 데이터셋에서 다양한 백본에 대해 LR DG가 최첨단 방법보다 우수하거나 이를 따라잡음을 보여준다.
• 이론적 분석은 LRDG를 도메인 일반화 위험 경bound와 연관시키며 도메인 특이적 특징 제거가 경계 구성 요소 gamma와 epsilon를 낮춘다고 주장한다.