[논문 리뷰] Domain Invariant Representation Learning with Domain Density Transformations

Antoinette T Nguyen, Trần Khánh Toàn외 2명|arXiv (Cornell University)|2021. 02. 09.

Domain Adaptation and Few-Shot Learning인용 수 25

한 줄 요약

논문은 GAN을 통해 학습된 도메인 밀도 변환에 불변성을 강제함으로써 도메인 불변 표현을 학습하고 Rotated MNIST, VLCS, PACS 데이터셋에서 도메인 일반화를 향상시키는 방법을 제안한다.

ABSTRACT

Domain generalization refers to the problem where we aim to train a model on data from a set of source domains so that the model can generalize to unseen target domains. Naively training a model on the aggregate set of data (pooled from all source domains) has been shown to perform suboptimally, since the information learned by that model might be domain-specific and generalize imperfectly to target domains. To tackle this problem, a predominant approach is to find and learn some domain-invariant information in order to use it for the prediction task. In this paper, we propose a theoretically grounded method to learn a domain-invariant representation by enforcing the representation network to be invariant under all transformation functions among domains. We also show how to use generative adversarial networks to learn such domain transformations to implement our method in practice. We demonstrate the effectiveness of our method on several widely used datasets for the domain generalization problem, on all of which we achieve competitive results with state-of-the-art models.

연구 동기 및 목표

• 도메인 일반화 문제의 동기 부여 및 공식화와 도메인 간 결합된 주변 분포 및 조건부 분포 정렬의 필요성.
• 도메인 불변 표현의 존재에 대한 필요충분조건의 특성화.
• 도메인 밀도 변환에 대한 불변성을 강제하는 이론적으로 근거가 있는 방법 제안.
• GAN 기반 도메인 변환 학습(DIRT-GAN)을 실용적으로 구현.
• 표준 도메인 일반화 벤치마크(Rotated MNIST, VLCS, PACS)에서 접근법의 경험적 검증.

제안 방법

• 도메인 간 불변 특성 z를 정의하여 p(z|d) 및 p(y|z,d) 불변성을 각 도메인에 대해 만족시킨다.
• 도메인 간의 도메인 밀도 변환 함수 f_{d,d'}를 도입하고 p(z|x)=p(z|f_{d,d'}(x))가 도메인 간의 결합 정렬을 암시함을 증명한다.
• 예측 손실 l(y,g_theta(x))과 도메인 불변성 항 dis(g_theta(x), g_theta(f_{d,d'}(x)))를 결합한 손실을 최적화한다.
• StarGAN을 사용하여 도메인 밀도를 실용적으로 추정할 수 있도록 도메인 변환 함수 f_{d,d'}를 학습한다.
• 트레이닝 동안 불변성을 유도하도록 StarGAN과 표현 네트워크 g_theta를 통합한 DIRT-GAN으로 구현한다.
• leave-one-domain-out 실험 및 표준 백본(CNN, AlexNet, ResNet18)으로 Rotated MNIST, VLCS, PACS에서 평가한다.

실험 결과

연구 질문

• RQ1 여러 소스 도메인에서 도메인 불변 표현이 존재하는 조건은 무엇인가?
• RQ2 학습된 도메인 밀도 변환에 불변인 표현이 도메인 간 주변 및 조건부 정렬을 달성할 수 있는가?
• RQ3 GAN으로 학습된 도메인 변환을 표현 학습 목표에 포함시키면 도메인 일반화 성능이 향상되는가?
• RQ4 제안된 방법이 표준 DG 벤치마크에서 기존의 도메인 불변 베이스라인과 어떻게 비교되는가?
• RQ5 다중 도메인에 대해 확장 가능하며 테스트 시점에서 실용적인가?

주요 결과

• DIRT-GAN이 Rotated MNIST에서 도메인 불변성 베이스라인보다 우수하며 보고된 방법들 중 최첨단 결과를 달성한다.
• VLCS 및 PACS에서 DIRT-GAN은 동일 백본 하에서 CIDG, CIDDG, DGER 베이스라인보다 상당히 향상된다.
• 학습된 표현에서 주변 분포와 조건부 분포의 정렬이 순진한 학습에 비해 더 잘 이루어지는 시각적 확인이 가능하다.
• 스타 GAN 구성요소는 트레이닝 중에만 사용되므로 테스트 시점의 효율성이 우수하게 유지된다.
• 데이터 세트 전반에 걸쳐 DIRT-GAN은 도메인 간 균일한 라벨 분포를 요구하지 않으면서도 강력한 도메인 일반화를 보여준다.