[논문 리뷰] Online Meta-Learning for Multi-Source and Semi-Supervised Domain Adaptation

Da Li, Timothy M. Hospedales|arXiv (Cornell University)|2020. 04. 09.

Domain Adaptation and Few-Shot Learning참고 문헌 57인용 수 6

한 줄 요약

이 논문은 기존 도메인 적응 알고리즘의 초기 모델 가중치를 메타최적화함으로써 다중 소스 및 준감독 도메인 적응을 향상시키는 온라인 메타학습 프레임워크를 제안한다. 효율적인 온라인 최단경로 경사하강법을 사용하여 DANN, MCD, MME 등 다양한 알고리즘에서 일관된 성능 향상을 달성하였으며, 도메인넷 및 기타 벤치마크에서 최소한의 계산 부담으로 최신 기술 수준(SOTA) 성능을 달성하였다.

ABSTRACT

Domain adaptation (DA) is the topical problem of adapting models from labelled source datasets so that they perform well on target datasets where only unlabelled or partially labelled data is available. Many methods have been proposed to address this problem through different ways to minimise the domain shift between source and target datasets. In this paper we take an orthogonal perspective and propose a framework to further enhance performance by meta-learning the initial conditions of existing DA algorithms. This is challenging compared to the more widely considered setting of few-shot meta-learning, due to the length of the computation graph involved. Therefore we propose an online shortest-path meta-learning framework that is both computationally tractable and practically effective for improving DA performance. We present variants for both multi-source unsupervised domain adaptation (MSDA), and semi-supervised domain adaptation (SSDA). Importantly, our approach is agnostic to the base adaptation algorithm, and can be applied to improve many techniques. Experimentally, we demonstrate improvements on classic (DANN) and recent (MCD and MME) techniques for MSDA and SSDA, and ultimately achieve state of the art results on several DA benchmarks including the largest scale DomainNet.

연구 동기 및 목표

• 메타학습을 통해 기존 도메인 적응 알고리즘을 향상시켜 딥러닝에서의 도메인 이동 문제에 대응한다.
• 완전한 내부 루프 최적화의 비가역성에 대비해 계산적으로 타당한 메타학습 방법을 개발한다.
• 메타학습된 초기 조건을 통해 기울기 기반 도메인 적응 방법에 대해 알고리즘에 종속되지 않는 향상을 가능하게 한다.
• 라벨이 없는 타겟 데이터를 고려한 비감독 및 준감독 도메인 적응 설정으로 메타학습을 확장한다.
• DomainNet과 같은 대규모 벤치마크에서 여러 최신 기술 수준의 도메인 적응 알고리즘에 대해 일관된 성능 향상을 입증한다.

제안 방법

• 완전한 내부 루프 최적화의 비가역성을 피하기 위해 메타업데이트와 도메인 적응 업데이트를 번갈아 적용하는 온라인 최단경로 메타학습 알고리즘을 제안한다.
• 외부 루프에서 메타최적화를 통해 메타검증 분할에서 계산된 메타손실을 최소화하는 초기 모델 가중치를 최적화한다.
• 온라인 최단경로 내림셈에서 유도된 기울기 기반 메타학습 업데이트 규칙을 적용하여 효율적이고 안정적인 최적화를 가능하게 한다.
• 다중 소스 비감독 도메인 적응(MSDA) 및 준감독 도메인 적응(SSDA)에 맞는 별도의 변형을 설계하여 다양한 데이터 가용성 설정에 적응한다.
• 메타학습/메타테스트 분할을 활용하여 타겟 도메인 성능을 시뮬레이션하지만, 메타목표에서 타겟 데이터의 레이블이 필요로 하지 않는다.
• 기본 DA 알고리즘을 블랙박스로 간주함으로써 알고리즘 독립성을 유지하여 DANN, MCD, MME 등 다양한 알고리즘과의 통합이 가능하다.

실험 결과

연구 질문

• RQ1 메타학습이 타겟 데이터의 레이블이 없는 상황에서도 도메인 적응 성능 향상에 효과적으로 적용될 수 있는가?
• RQ2 초기 모델 가중치의 메타최적화가 비감독 및 준감독 설정 모두에서 후속 도메인 적응 성능 향상에 어떻게 기여하는가?
• RQ3 긴 계산 그래프를 가진 환경에서 온라인 메타학습이 순차적 또는 정확한 메타학습보다 더 효과적인가?
• RQ4 다양한 도메인 적응 방법에 대해 일관된 성능 향상을 제공하면서도 알고리즘에 종속되지 않는 메타학습 프레임워크를 구축할 수 있는가?
• RQ5 메타학습된 초기화가 다중 소스 및 준감독 도메인 적응에서 최적화 동역학과 최종 정확도에 얼마나 기여하는가?

주요 결과

• Meta-MCD와 Meta-MME는 DomainNet SSDA 벤치마크에서 기존 MCD 및 MME 방법을 능가하는 최신 기술 수준 성능을 달성한다.
• PACS 데이터셋에서 Meta-MME는 모든 쌍별 전이 설정과 ResNet-34 및 AlexNet 백본 모두에서 정확도를 향상시킨다.
• 온라인 메타학습 방법은 특히 후반 훈련 단계에서 순차적 메타학습 베이스라인보다 뛰어난 성능을 보이며, 적응형이고 번갈아 적용되는 업데이트 덕분이다.
• Meta-MCD는 표준 MCD보다 높은 테스트 정확도를 기록하며, 감독 손실 성분을 더 잘 최소화하는 것으로 나타나 최적화 동역학이 향상됨을 시사한다.
• Meta-DA의 계산 부담은 매우 낮으며, DomainNet에서 ResNet-34에 대해 반복당 시간이 19% 증가(2.96s 대비 2.49s)에 그친다.
• 가중치 공간 시각화 결과 Meta-MCD가 표준 MCD보다 최적 최소값에 더 가까운 해에 수렴하는 것으로 확인되어, 메타최적화된 초기화의 효과를 검증한다.