[논문 리뷰] Pareto Domain Adaptation

Fangrui Lv, Jian Liang외 6명|arXiv (Cornell University)|2021. 12. 08.

Domain Adaptation and Few-Shot Learning인용 수 8

한 줄 요약

이 논문은 파레토 최적 해에 동적으로 도달하도록 모델 훈련을 이끄는 기울기 기반 최적화 프레임워크인 파레토 도메인 적응(ParetoDA)을 제안한다. 이는 목표 분류를 모방하는 대체 손실과 동적 선호도 메커니즘을 사용한다. 선형 가중치 부여 방식과 고정 선호도 방법보다 우수하며, 이미지 분류 및 의미 세그멘테이션 벤치마크에서 최신 기술 성능을 달성한다. 이는 소스 분류 및 도메인 일치 목표 간의 균형을 더 잘 이루기 때문이다.

ABSTRACT

Domain adaptation (DA) attempts to transfer the knowledge from a labeled source domain to an unlabeled target domain that follows different distribution from the source. To achieve this, DA methods include a source classification objective to extract the source knowledge and a domain alignment objective to diminish the domain shift, ensuring knowledge transfer. Typically, former DA methods adopt some weight hyper-parameters to linearly combine the training objectives to form an overall objective. However, the gradient directions of these objectives may conflict with each other due to domain shift. Under such circumstances, the linear optimization scheme might decrease the overall objective value at the expense of damaging one of the training objectives, leading to restricted solutions. In this paper, we rethink the optimization scheme for DA from a gradient-based perspective. We propose a Pareto Domain Adaptation (ParetoDA) approach to control the overall optimization direction, aiming to cooperatively optimize all training objectives. Specifically, to reach a desirable solution on the target domain, we design a surrogate loss mimicking target classification. To improve target-prediction accuracy to support the mimicking, we propose a target-prediction refining mechanism which exploits domain labels via Bayes' theorem. On the other hand, since prior knowledge of weighting schemes for objectives is often unavailable to guide optimization to approach the optimal solution on the target domain, we propose a dynamic preference mechanism to dynamically guide our cooperative optimization by the gradient of the surrogate loss on a held-out unlabeled target dataset. Extensive experiments on image classification and semantic segmentation benchmarks demonstrate the effectiveness of ParetoDA

연구 동기 및 목표

• 선형 가중치 부여 방식의 한계를 해결하기 위해, 도메인 이동으로 인해 비볼록 파레토 최적 해에 도달할 수 없고, 하이퍼파rameter 조정에 민감한 점을 해결한다.
• 목표 도메인 레이블의 부재로 인해 훈련 중에 목표 분류 손실을 직접 최적화할 수 없는 점을 해결한다.
• 최적 가중치에 대한 사전 지식이 필요 없이 소스 분류와 도메인 일치 목표 간의 트레이드오���을 적응적으로 이끄는 동적 최적화 전략을 개발한다.
• 보류된 목표 데이터에 과적합되지 않으면서도 바람직한 해로 수렴하도록 최적화 과정을 방지한다.

제안 방법

• 예측과 도메인 레이블 간의 상호정보를 활용하여 진정한 목표 분류 손실을 근사하는, 목표 분류 모의(TCM) 손실을 도입한다.
• 베이즈 정리에 기반한 목표 예측 개선 메커니즘을 제안하여 목표 예측의 품질을 향상시켜, TCM 손실이 목표 성능의 대체 지표로 기능하도록 한다.
• 보류된 비라벨 목표 데이터에서 TCM 손실의 기울기를 사용하여 최적화 방향을 파레토 최적 해 쪽으로 이끄는 동적 선호도 메커니즘을 구현한다.
• 모든 목표가 훈련 내내 악화되지 않도록 보장하는 기울기 기반 협동 최적화 기법을 채택하여, 비볼록 파레토 프론트 해에 수렴 가능하게 한다.
• 진정한 목표 분류 손실을 직접 최소화하기 위해 대체 손실과 기울기 유도를 사용하며, 훈련 중에 진정한 레이블이 필요하지 않다.
• 이론적 분석을 통해 보류된 목표 데이터가 과적합을 일으키지 않으면서 최적화를 이끄는 것으로 확인되었으며, 일반화가 보장된다.

실험 결과

연구 질문

• RQ1 도메인 이동으로 인해 목표가 충돌할 경우, 선형 가중치 부여 방식보다 기울기 기반 최적화 기법이 도메인 적응에서 더 우수한 성능을 낼 수 있는가?
• RQ2 목표 예측과 도메인 레이블을 기반으로 한 대체 손실이 진정한 목표 분류 손실 최소화를 효과적으로 이끄는가?
• RQ3 대체 손실의 기울기에 따라 적응하는 동적 선호도 메커니즘이 바람직한 파레토 최적 해로의 수렴을 향상시키는가?
• RQ4 제안된 방법은 목표 스케일의 변동성과 다양한 백본 아키텍처에 대해 강건한가?
• RQ5 선형 가중치 부여 및 고정 선호도 기법을 초월하여 분류 및 세그멘테이션 작업 모두에서 더 뛰어난 성능을 달성할 수 있는가?

주요 결과

• ParetoDA는 ResNet-50를 사용한 DANN 기반으로 Office-31 W→A 벤치마크에서 90.2%의 상위-1 정확도를 달성하여, 베이스라인 DANN(82.2%) 및 아블레이션 변종을 능가한다.
• 아블레이션 연구 결과, TCM 손실과 동적 선호도 학습을 조합할 경우 최고의 성능(90.2%)을 기록하여, 두 구성 요소의 필요성을 입증한다.
• 최적화 경로 시각화 결과, ParetoDA의 경로는 선형 기법이나 고정 선호도 방법과 달리 목표 분류 손실 최소화로 향하는 이상적인 경로에 가깝게 따라간다.
• 민감도 분석 결과, ParetoDA는 목표 스케일의 변동성에 강건하며, 소스 및 도메인 일치 손실의 다양한 스케일 요소에서도 일관된 성능을 유지한다.
• ParetoDA는 더 깊은 백본 아키텍처에서도 일관되게 성능을 향상시킨다: ResNet-50 기준으로 정확도는 DANN의 67.4%에서 ParetoDA의 76.3%로, ResNet-101 기준 74.5%에서 77.5%로, ResNet-152 기준 76.1%에서 79.0%로 향상된다.
• 이론적 분석을 통해 보류된 목표 데이터가 과적합을 일으키지 않으며 최적화를 이끄는 것으로 확인되었으며, 일반화가 보장된다.