[논문 리뷰] Mapping conditional distributions for domain adaptation under generalized target shift

Matthieu Kirchmeyer, Alain Rakotomamonjy외 2명|arXiv (Cornell University)|2021. 10. 26.

Domain Adaptation and Few-Shot Learning참고 문헌 36인용 수 4

한 줄 요약

이 논문은 일반화된 타겟 이탈(GeTarS) 하에서 작동하는 새로운 도메인 적응 방법 OSTAR를 제안한다. OSTAR는 신경망 기반 최적 운반(OT)을 통해 소스 표현을 타겟 표현으로 매핑함으로써 분류 구조를 유지하고 타겟 리스크에 명시적 제어를 가능하게 한다. 미세한 가정 하에 강력한 이론적 보장을 제공하며, 기존 최첨단 방법들을 능가한다. 이는 소스 표현과 타겟 표현 간의 운반 지도, 클래스 비율 추정, 분류기 학습을 공동으로 최적화함으로써 달성된다.

ABSTRACT

We consider the problem of unsupervised domain adaptation (UDA) between a source and a target domain under conditional and label shift a.k.a Generalized Target Shift (GeTarS). Unlike simpler UDA settings, few works have addressed this challenging problem. Recent approaches learn domain-invariant representations, yet they have practical limitations and rely on strong assumptions that may not hold in practice. In this paper, we explore a novel and general approach to align pretrained representations, which circumvents existing drawbacks. Instead of constraining representation invariance, it learns an optimal transport map, implemented as a NN, which maps source representations onto target ones. Our approach is flexible and scalable, it preserves the problem's structure and it has strong theoretical guarantees under mild assumptions. In particular, our solution is unique, matches conditional distributions across domains, recovers target proportions and explicitly controls the target generalization risk. Through an exhaustive comparison on several datasets, we challenge the state-of-the-art in GeTarS.

연구 동기 및 목표

• 소스 도메인과 타겟 도메인 간에 클래스 사전 확률과 조건부 분포가 모두 이탈하는 일반화된 타겟 이탈(GeTarS) 하에서 비지도 도메인 적응의 과제를 해결한다.
• 적대적 불안정성과 분류 구조의 손실을 겪는 기존 도메인 불변 표현 학습 방법의 한계를 극복한다.
• 강제적인 표현 불변성으로 인한 원래 문제의 구조적 무결성 손실을 방지한다.
• 조건부 분포 정렬, 타겟 비율 복구, 일반화 리스크에 대한 명시적 제어에 대해 강력한 이론적 보장을 제공한다.
• 다양한 도메인, 특히 비시각 작업에 적용 가능한 확장 가능하고 유연하며 안정적인 방법을 개발한다.

제안 방법

• 소스와 타겟 조건부 분포 간에 신경 최적 운반(OT) 지도를 학습함으로써 도메인 불변성을 강요하지 않고 표현을 정렬하는 OSTAR를 제안한다.
• 배치 정규화와 ReLU 활성화를 갖는 순환 신경망 기반의 공통 OT 지도를 사용하여 소스 특징을 타겟 특징으로 매핑한다.
• 혼동 행렬 추정기를 사용한 볼록 최적화 문제를 통해 타겟 클래스 비율을 추정하고, 학습 목표에서 샘플 재가중을 가능하게 한다.
• 세 가지 구성 요소를 공동으로 최적화한다: OT 지도, 클래스 비율 추정, 재가중 손실을 사용해 소스 레이블로 훈련된 분류기.
• 타겟 리스크에 대한 명시적 제어를 위해 워샤르 기반 일반화 경계를 활용한다.
• 두 단계 훈련 절차를 사용한다: 먼저 OT와 분류를 위한 병합 목표를 최소화하고, 이후 더 나은 정렬을 위해 일반화된 목표로 개선한다.

실험 결과

연구 질문

• RQ1 GeTarS 하에서 도메인 불변 표현을 강요하지 않고 신경 최적 운반 지도가 소스 및 타겟 조건부 분포를 효과적으로 정렬할 수 있는가?
• RQ2 OSTAR는 도메인 불변 방법보다 타겟 표현의 분류 구조를 더 잘 유지하는가?
• RQ3 OSTAR는 타겟 클래스 비율을 정확히 복구할 수 있고, 이를 통해 일반화 리스크 제어를 향상시킬 수 있는가?
• RQ4 다양한 데이터셋과 다양한 레이블 이탈 상황에서 OSTAR는 최첨단 방법들과 비교해 정확도와 강건성 면에서 어떻게 성능을 내는가?
• RQ5 특히 유일성과 분포 매칭 측면에서 미약한 가정 하에 OSTAR는 어떤 이론적 보장을 제공하는가?

주요 결과

• OSTAR는 Digits, VisDA-12, Office-31, Office-Home에서 GeTarS 하에서 최첨단 성능을 달성하며, IW-WD, MARSc, MARSg 등의 방법들을 능가한다.
• VisDA-12에서 OSTAR는 86.7%의 상위-1 정확도를 기록하여 이전 최고 성능인 85.2%를 초월한다.
• 높은 레이블 불균형이 존재하는 Office-31에서 OSTAR는 최고의 베이스라인 대비 정확도를 4.3%p 향상시킨다.
• 추정된 비율이 정확할 경우 성능 향상이 관찰되는 추론 실험을 통해 타겟 클래스 비율을 높은 정확도로 복구함을 확인한다.
• 이론적 분석을 통해 OSTAR의 해가 유일하며, 최적점에서 소스 및 타겟 조건부 분포가 매칭되며, 타겟 리스크에 대해 워샤르 기반 경계를 제공함을 입증한다.
• 기존 방법보다 빠른 수렴을 보이며, Digits에서는 50 에포크, 더 큰 데이터셋에서는 100 에포크로 안정적인 훈련이 가능하다. 이는 신경 OT 지도의 인덕티브 바이어스 덕분이다.