[논문 리뷰] Curriculum Manager for Source Selection in Multi-Source Domain Adaptation

Luyu Yang, Yogesh Balaji외 2명|arXiv (Cornell University)|2020. 07. 02.

Domain Adaptation and Few-Shot Learning참고 문헌 44인용 수 8

한 줄 요약

이 논문은 다중 소스 비지도 도메인 적응에서 동적으로 소스 샘플을 선택하기 위한 적대적 커리큘럼 학습 프레임워크인 소스 선택을 위한 커리큘럼 매니저(CMSS)를 제안한다. CMSS는 도메인 구분자 모델의 오차를 최대화하도록 별도의 커리큘럼 매니저 모듈을 훈련시어, 타겟 도메인으로의 전이 가능성에 기반해 소스 샘플을 동적으로 선택한다. 이는 도메인 레이블이나 사전 클러스터링 없이도 DomainNet을 포함한 네 가지 벤치마크에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

The performance of Multi-Source Unsupervised Domain Adaptation depends significantly on the effectiveness of transfer from labeled source domain samples. In this paper, we proposed an adversarial agent that learns a dynamic curriculum for source samples, called Curriculum Manager for Source Selection (CMSS). The Curriculum Manager, an independent network module, constantly updates the curriculum during training, and iteratively learns which domains or samples are best suited for aligning to the target. The intuition behind this is to force the Curriculum Manager to constantly re-measure the transferability of latent domains over time to adversarially raise the error rate of the domain discriminator. CMSS does not require any knowledge of the domain labels, yet it outperforms other methods on four well-known benchmarks by significant margins. We also provide interpretable results that shed light on the proposed method.

연구 동기 및 목표

• 다중 레이블 소스 도메인을 사용해 레이블이 없는 타겟 도메인으로 적응할 때 발생하는 부정적 전이와 최적화되지 않은 정렬 문제를 해결하기 위해.
• 도메인 레이블이나 사전 정의된 도메인 분할에 의존하지 않고, 훈련 중에 가장 전이 가능성 있는 소스 샘플을 동적으로 선택하는 방법을 개발하기 위해.
• 시간이 지남에 따라 타겟 분포와 가장 잘 일치하는 소스 샘플을 자동으로 식별하고 우선순위를 정함으로써 MS-UDA에서 커리큘럼 학습을 가능하게 하기 위해.
• 소스 도메인이 제한 없이 많을 수 있는 실세계 환경에서 일반화 능력과 강건성을 향상시키기 위해.

제안 방법

• CMSS는 도메인 구분자의 오차를 최대화하도록 적대적으로 훈련되는 별도의 신경망 모듈인 커리큘럼 매니저를 도입하여, 특징 네트워크가 도메인 불변 표현을 학습하도록 유도한다.
• 커리큘럼 매니저는 소스 데이터에 대해 샘플별 가중치를 생성하며, 이는 훈련 중 도메인 적대적 손실을 재가중하는 데 사용되어 기울기 흐름을 전이 가능성 높은 샘플을 우선시하도록 조절한다.
• 특징 네트워크로 향하는 커리큘럼 학습 신호를 전달하기 위해 기울기 반전 기법을 사용하여, 도메인 감독 없이도 엔드 투 엔드 훈련이 가능하도록 한다.
• 커리큘럼 매니저는 시간이 지남에 따라 전이 가능성 재측정을 지속적으로 수행하여, 훈련이 진행됨에 따라 새로운 더 관련성이 높은 소스 샘플로 초점을 점진적으로 이동시킬 수 있도록 한다.
• 이 방법은 도메인 레이블, 클러스터링, 또는 소스 도메인 수에 대한 사전 지식이 필요 없어, 개방형 도메인, 실세계 데이터 수집에 적합하다.
• 표준 DANN 아키텍처에 통합되어, 고정된 도메인 손실 대신 CMSS 출력에 의해 조절되는 가중 도메인 손실로 대체된다.

실험 결과

연구 질문

• RQ1 도메인 레이블에 접근할 수 없는 다중 소스 도메인 적응에서 동적 커리큘럼을 통해 소스 샘플 선택을 어떻게 학습할 수 있는가?
• RQ2 커리큘럼 매니저와 도메인 구분자 간의 적대적 훈련이 MS-UDA에서 전이 가능성과 모델 일반화 능력을 효과적으로 향상시키는가?
• RQ3 훈련 과정에서 커리큘럼은 어떻게 변화하며, 이는 소스 도메인 간 전이 가능성의 의미 있는 패턴을 반영하는가?
• RQ4 고정 또는 수동으로 분할된 소스 도메인 가중치를 사용하는 기존 방법에 비해 CMSS는 얼마나 뛰어난 성능을 보이는가?
• RQ5 다양한 타겟 도메인에서 소스 샘플 선택에 영향을 주는 요소는 구조적 유사성, 색상, 배경 등 무엇인가?

주요 결과

• CMSS는 DomainNet을 포함한 네 가지 잘 알려진 벤치마크에서 최신 기술 수준의 성능을 달성한다. 이는 약 60만 장의 이미지를 포함하는 대규모 DomainNet 데이터셋에서도 성능을 입증한다.
• 특히 도메인 간 차이가 큰 상황에서 DANN 및 MDAN과 같은 강력한 베이스라인에 비해 뚜렷한 성능 향상을 보이며, 도메인 이동이 큰 경우에 유의미한 개선을 보인다.
• 커리큘럼 매니저는 시각적 유사성과 관련된 도메인 선호 패턴을 학습한다. 예를 들어 타겟이 스케치일 경우 클리파트를 페인팅보다 선호하는 등 의미 있는 해석 가능한 선택을 보여준다.
• 퀵드로잉처럼 도메인 간 이동이 큰 경우, CMSS는 강한 도메인 선호도를 보이지 않지만 여전히 높은 성능을 달성하여, 도메인 내 샘플 선택이 효과적으로 이루어지고 있음을 시사한다.
• 샘플 수준의 시각화 결과는 CMSS가 둥근 시계 형태와 같은 구조적 유사성 있는 샘플을 퀵드로잉에 우선시하고, 클리파트에는 색상과 질감이 풍부한 샘플을 선호함으로써 맥락 인식 선택을 하고 있음을 보여준다.
• 훈련 동역학 분석 결과, 초기 단계에서는 CMSS 가중치에 높은 변동성이 있으며 활발한 샘플 선택이 이루어지는 것으로 나타나고, 점차 대부분의 샘플이 정렬되면서 변동성이 감소함을 확인하여, 커리큘럼 학습 행동이 확인된다.