[논문 리뷰] Gradual Domain Adaptation without Indexed Intermediate Domains

Hong-You Chen, Wei‐Lun Chao|arXiv (Cornell University)|2022. 07. 11.

Domain Adaptation and Few-Shot Learning참고 문헌 45인용 수 13

한 줄 요약

이 논문은 사전에 정의된 도메인 레이블에 의존하지 않고 색인되지 않은 비라벨 데이터에서 의미 있는 중간 도메인의 순서를 자동으로 발견하는 새로운 프레임워크 IDOL을 제안한다. 거칠은 도메인 스코어링을 위한 점진적 도메인 판별자 학습과 정교한 도메인 정렬을 위한 사이클 일致성 손실을 결합함으로써, IDOL은 사전에 라벨링된 중간 도메인을 사용한 GDA와 비교해도 성능이 유사하거나 이를 초월하며, 실세계에서 도메인 색인 정보가 확보되지 않는 상황에서도 GDA의 적용 가능성을 크게 향상시킨다.

ABSTRACT

The effectiveness of unsupervised domain adaptation degrades when there is a large discrepancy between the source and target domains. Gradual domain adaptation (GDA) is one promising way to mitigate such an issue, by leveraging additional unlabeled data that gradually shift from the source to the target. Through sequentially adapting the model along the "indexed" intermediate domains, GDA substantially improves the overall adaptation performance. In practice, however, the extra unlabeled data may not be separated into intermediate domains and indexed properly, limiting the applicability of GDA. In this paper, we investigate how to discover the sequence of intermediate domains when it is not already available. Concretely, we propose a coarse-to-fine framework, which starts with a coarse domain discovery step via progressive domain discriminator training. This coarse domain sequence then undergoes a fine indexing step via a novel cycle-consistency loss, which encourages the next intermediate domain to preserve sufficient discriminative knowledge of the current intermediate domain. The resulting domain sequence can then be used by a GDA algorithm. On benchmark data sets of GDA, we show that our approach, which we name Intermediate DOmain Labeler (IDOL), can lead to comparable or even better adaptation performance compared to the pre-defined domain sequence, making GDA more applicable and robust to the quality of domain sequences. Codes are available at https://github.com/hongyouc/IDOL.

연구 동기 및 목표

• 점진적 도메인 적응(GDA)의 한계를 해결하기 위해 사전에 정의된 색인된 중간 도메인이 필요로 하는 문제를 해결하고자 한다. 실세계에서는 이러한 도메인 레이블이 자주 확보되지 않는다.
• 색인되지 않은 비라벨 중간 데이터에서 의미 있는 중간 도메인 순서를 자동으로 발견할 수 있는 방법을 개발하고자 한다.
• 실세계 환경에서 도메인 레이블이나 시간 기반 색인 정보가 확보되지 않는 상황에서도 GDA의 강인성과 적용 가능성을 향상시키고자 한다.
• 발견된 도메인 순서가 소스에서 타겟으로의 분류 지식을 유지하여 단계적 적응을 효과적으로 수행할 수 있도록 보장하고자 한다.

제안 방법

• 거친 도메인 발견 단계에서는 소스 및 타겟 데이터로 시작하여 점차적으로 중간 데이터를 통합함으로써 소스 또는 타겟에 가까운 정도를 추정하는 점진적으로 훈련된 도메인 판별자를 사용한다.
• 도메인 판별자는 반복적으로 훈련되며, 점점 소스 또는 타겟에 가까운 데이터 포인트를 추가함으로써 다각도를 고려한 도메인 스코어링을 향상시킨다.
• 정교한 색인 단계에서는 사이클 일치성 손실을 사용하여 다음 중간 도메인을 식별한다. 이는 다음 도메인에 적응한 모델이 현재 도메인으로 '다시 적응'했을 때 동일한 의사 레이블을 복원할 수 있도록 보장한다.
• 자기 훈련을 통해 현재 도메인의 의사 레이블을 생성하고, 이를 다음 도메인의 모델 훈련에 활용하며, 재구성 손실을 통해 사이클 일치성을 강제로 적용한다.
• 이 프레임워크는 탐욕적이고 순차적인 방식으로 적용되어 색인되지 않은 중간 데이터로부터 전체 도메인 순서를 구축한다.
• 최종적으로 도메인 순서는 어떤 표준 GDA 알고리즘과도 함께 사용되어 적응 성능을 향상시킬 수 있다.

실험 결과

연구 질문

• RQ1 타임스탬프와 같은 보조 정보 없이도 색인되지 않은 비라벨 중간 데이터에서 도메인 순서를 효과적으로 발견할 수 있는가?
• RQ2 거칠기에서 정교함으로의 프레임워크가 히وري스틱 또는 직접 클러스터링 방법에 비해 중간 도메인 발견의 품질을 어떻게 향상시키는가?
• RQ3 사이클 일치성 손실이 연속된 중간 도메인 간의 분류 지식 보존에 얼마나 기여하는가?
• RQ4 제안된 방법이 사전에 정의된 도메인 순서를 사용한 GDA와 비교해 유사하거나 더 뛰어난 성능을 달성하는가?

주요 결과

• IDOL은 기준 데이터셋에서 사전에 정의된 도메인 순서를 사용한 GDA와 비교해 유사하거나 더 높은 타겟 정확도를 달성하여 실세계 환경에서의 효과성을 입증한다.
• 점진적 도메인 판별자는 특히 데이터 다각도의 구조를 잘 포착할 수 있어, 다른 거리 추정 방법에 비해 거친 도메인 스코어링에서 뛰어난 성능을 보인다.
• 사이클 일치성 손실은 연속된 도메인 간의 지식 전이 일관성을 보장함으로써 도메인 순서의 품질을 크게 향상시킨다.
• CIFAR10에서 STL로의 UDA 벤치마크에서, IDOL을 사용한 GDA는 직접 UDA와 사전 라벨링된 도메인을 사용한 GDA를 모두 능가하며, 저신뢰도 중간 데이터의 80%를 제거한 상황에서도 성능이 뛰어나다.
• IDOL은 노이즈가 많거나 이상치 데이터가 포함된 중간 데이터에 대해서도 강인하여, 상당 부분의 데이터가 제거된 상황에서도 높은 성능을 유지한다.