[논문 리뷰] Unsupervised Domain Adaptation with Progressive Domain Augmentation

Kevin Hua, Yuhong Guo|arXiv (Cornell University)|2020. 04. 03.

Domain Adaptation and Few-Shot Learning참고 문헌 40인용 수 4

한 줄 요약

이 논문은 믹스업 기반 데이터 보간을 통해 가상의 중간 도메인을 생성하고, 그라스만 다양체 상에서 점진적인 부분공간 정렬을 수행하는 새로운 비지도 도메 적응 방법인 프로그레시브 도메인 증강(PrDA)을 제안한다. 여러 단계의 정렬을 통해 점차 도메인 분리 문제를 완화함으로써, PrDA는 Office-31, Office-Caltech-10, ImageCLEF-DA 벤치마크에서 최고 성능을 기록하며, 특히 도메인 간 분리가 뚜렷한 상황에서 뛰어난 성능을 보인다.

ABSTRACT

Domain adaptation aims to exploit a label-rich source domain for learning classifiers in a different label-scarce target domain. It is particularly challenging when there are significant divergences between the two domains. In the paper, we propose a novel unsupervised domain adaptation method based on progressive domain augmentation. The proposed method generates virtual intermediate domains via domain interpolation, progressively augments the source domain and bridges the source-target domain divergence by conducting multiple subspace alignment on the Grassmann manifold. We conduct experiments on multiple domain adaptation tasks and the results shows the proposed method achieves the state-of-the-art performance.

연구 동기 및 목표

• 직접 정렬이 실패하는 큰 도메인 분리 문제를 해결하기 위해.
• 큰 도메인 분리를 더 작은 단계로 분해함으로써 정보 손실을 줄이고 정렬 안정성을 향상시키기 위해.
• 더러운 중간 가상 도메인을 활용해 표준 벤치마크에서 더 부드러운 도메인 적응을 실현함으로써 성능을 향상시키기 위해.
• 높은 도메인 간 분리 상황에서 점진적 정렬의 효과성을 검증하기 위해.
• 다양한 도메인 적응 작업 전반에서 최고 성능을 입증하기 위해.

제안 방법

• 이 방법은 원천 도메인과 타겟 도메인 간 믹스업 기반 데이터 보간을 통해 가상의 중간 도메인 시퀀스를 생성한다.
• 원천 도메인과 각 가상 중간 도메인 사이에서 그라스만 다양체 상에서 다중 부분공간 정렬을 점진적으로 수행한다.
• 각 정렬 단계 이후, 가상 도메인의 의사 레이블 데이터를 활용해 원천 도메인을 증강함으로써 표현을 점차 타겟 도메인에 가깝게 이동시킨다.
• 단일 단계에서가 아니라 단계적으로 도메인 분리도 감소시킴으로써 정렬 품질을 점진적으로 향상시킨다.
• 특징 추출기로 ResNet-50를 사용하고, 그라스만 다양체 상의 투영 행렬을 통한 부분공간 정렬에 의존한다.
• 대신 직접적인 적대적 훈련이나 복원 손실을 피하고, 구조적이고 점진적인 도메인 정렬에 집중한다.

실험 결과

연구 질문

• RQ1 가상의 중간 도메인을 통한 점진적 도메인 증강이 비지도 도메 적응에서 정렬 안정성과 성능을 향상시키는가?
• RQ2 큰 도메인 분리를 다수의 더 작은 정렬 단계로 분해하면 정보 손실이 줄어들고 일반화 성능이 향상되는가?
• RQ3 Office-Caltech-10과 같이 높은 도메인 간 분리가 발생하는 벤치마크에서 제안된 방법의 성능은 어떠한가?
• RQ4 정확도와 내구성 측면에서 점진적 정렬이 단일 단계 도메인 정렬 방법보다 뛰어나게 성능을 발휘하는가?
• RQ5 다양한 전이 작업에서 최고 성능를 기록한 Ad-REM, MEDA, CDAN 등의 기존 방법과 비교해 본다면 어떻게 성능가능한가?

주요 결과

• PrDA는 Office-Caltech-10 벤치마크의 12개 전이 작업 중 7개에서 최고 성능을 기록했다.
• Office-Caltech-10 데이터셋에서 PrDA는 D→W 작업에서 99.7%의 정확도를 기록했고, A→W 작업에서는 99.3%를 기록하여 모든 베이스라인을 초월했다.
• ImageCLEF-DA 벤치마크에서 PrDA는 I→P에서 81.8%, P→I에서 91.0%, P→C에서 95.5%의 정확도를 기록했으며, DANN, CDAN, MEDA 등 일부 작업에서 모두를 능가했다.
• 높은 분리도를 보이는 작업에서 강력한 성능을 보였으며, A→D 및 D→A 작업에서 도메인 분류기 정확도가 76.1%에 이르러 상당한 도메인 분리가 존재함을 시사했다.
• 낮은 분리도 작업에서도 경쟁 가능한 성능를 기록하여 다양한 도메인 유사도 수준에서의 내구성을 입증했다.
• 제거 실험을 통해 가상 도메인을 활용한 점진적 정렬이 직접 정렬보다 성능 향상에 크게 기여한다는 것이 확인되었다.