[논문 리뷰] Deep Unsupervised Domain Adaptation: A Review of Recent Advances and Perspectives

Xiaofeng Liu, Chaehwa Yoo외 5명|arXiv (Cornell University)|2022. 08. 15.

Domain Adaptation and Few-Shot Learning인용 수 4

한 줄 요약

이 논문은 적대적 훈련, 자기 훈련, 도메인 정렬 등의 최근 기법들을 종합적으로 요약하는 딥 뉴럴 비지도 도메인 적응(UDA)에 대한 포괄적인 리뷰를 제공한다. 컴퓨터 시각, 자연어 처리, 의료 영상, 시계열 분석 등 다양한 분야에서의 응용을 체계적으로 비교하며, 도메인 일반화 및 분포 외 탐지와 같은 관련 작업과의 연관성을 밝히고, UDA의 핵심 한계점과 향후 연구 방향을 규명한다.

ABSTRACT

Deep learning has become the method of choice to tackle real-world problems in different domains, partly because of its ability to learn from data and achieve impressive performance on a wide range of applications. However, its success usually relies on two assumptions: (i) vast troves of labeled datasets are required for accurate model fitting, and (ii) training and testing data are independent and identically distributed. Its performance on unseen target domains, thus, is not guaranteed, especially when encountering out-of-distribution data at the adaptation stage. The performance drop on data in a target domain is a critical problem in deploying deep neural networks that are successfully trained on data in a source domain. Unsupervised domain adaptation (UDA) is proposed to counter this, by leveraging both labeled source domain data and unlabeled target domain data to carry out various tasks in the target domain. UDA has yielded promising results on natural image processing, video analysis, natural language processing, time-series data analysis, medical image analysis, etc. In this review, as a rapidly evolving topic, we provide a systematic comparison of its methods and applications. In addition, the connection of UDA with its closely related tasks, e.g., domain generalization and out-of-distribution detection, has also been discussed. Furthermore, deficiencies in current methods and possible promising directions are highlighted.

연구 동기 및 목표

• 딥 뉴럴 비지도 도메인 적응(UDA) 기법과 그 응용에 대해 체계적이고 최신의 리뷰를 제공하는 것.
• 적대적 훈련, 자기 훈련, 도메인 정렬 등의 주요 UDA 기법들을 다양한 도메인에서 비교·분석하는 것.
• UDA와 도메인 일반화, 분포 외 탐지와 같은 관련 작업 간의 연관성을 명확히 하는 것.
• UDA 기법의 현재 한계점을 규명하고, 유망한 향후 연구 방향을 제안하는 것.
• 이론적 기반과 실제 응용 사례를 통합한 UDA에 대한 통합적 시각을 제공하는 것.

제안 방법

• 논문은 UDA 기법을 네 가지 주요 파라다임으로 분류한다: 통계적 모멘트 매칭(예: 최대 평균 차이, MMD), 도메인 스타일 전이, 자기 훈련, 특징 수준의 적대적 학습.
• 적대적 훈련이 잠재 공간에서 도메인 차이를 최소화함으로써 소스 도메인과 타겟 도메인의 특징을 정렬하는 방식을 분석한다.
• 자기 훈련 전략을 논의하며, 미분류된 타겟 데이터에 대해 신뢰도가 높은 예측에 대해 의사 레이블을 할당하고 반복적으로 모델 예측을 개선하는 방식을 설명한다.
• 통계적 모멘트(예: 평균과 공분산)를 소스 도메인과 타겟 도메인 간에 매칭함으로써 도메인 이동을 줄이는 도메인 정렬 기법을 검토한다.
• 도메인 적응의 강건성을 향상시키기 위해 정규화 기반 및 앙상블 기반 접근법을 평가한다.
• 사이클 일관성 적응 및 도메인 불변 표현 학습을 위한 생성 모델링과 같은 새로운 기법들을 강조한다.

실험 결과

연구 질문

• RQ1 적대적 훈련, 자기 훈련, 도메인 정렬 등의 다양한 UDA 기법들이 다양한 도메인에서 성능과 일반화 능력 측면에서 어떻게 비교되는가?
• RQ2 UDA, 도메인 일반화, 분포 외 탐지 간의 핵심 이론적 및 실용적 차이점은 무엇인가?
• RQ3 현재의 UDA 기법들이 의료 영상 및 시계열 데이터와 같이 복잡한 도메인 이동을 다루는 데에서 어떤 방식으로 실패하는가?
• RQ4 제한된 타겟 도메인 레이블 데이터를 가진 실세계 시나리오에 비지도 도메인 적응을 효과적으로 적용하는 방법은 무엇인가?
• RQ5 UDA 모델의 강건성, 일반화 능력, 확장성 향상에 있어 가장 유망한 향후 연구 방향은 무엇인가?

주요 결과

• 적대적 훈련과 자기 훈련 등의 UDA 기법은 자연 이미지 처리, 영상 분석, 의료 영상 분할 분야에서 뛰어난 성능을 보였다.
• 모멘트 매칭(MMD 등) 및 상관 정렬(CorrA)을 통한 도메인 정렬 기법은 특징 공간에서 도메인 이동을 효과적으로 감소시켰다.
• 신뢰도 정규화를 적용한 자기 훈련은 반복적 개선 과정에서 저신뢰도 의사 레이블을 걸러내어 강건성을 향상시켰다.
• 의료 영상 분야에서는 모델에 종속되지 않는 학습과 타겟 도메인 전용 정규화를 활용한 협업 기반 UDA 접근법이 최고 수준의 분할 성능을 달성했다.
• 진전이 있었음에도 불구하고, 현재의 UDA 기법들은 특히 분포 외 설정과 복잡한 실세계 데이터에서 대규모 도메인 이동을 다루는 데 여전히 어려움을 겪고 있다.
• 논문은 UDA를 도메인 일반화 및 OOD 탐지와 통합하는 더 통합된 프레임워크가 필요하다고 지적하며, 강건한 구현을 위한 기반을 마련한다.