[논문 리뷰] Learning to Transfer Examples for Partial Domain Adaptation

Zhangjie Cao, Kaichao You외 3명|arXiv (Cornell University)|2019. 03. 28.

Domain Adaptation and Few-Shot Learning참고 문헌 43인용 수 36

한 줄 요약

ETN은 전달성 가중 메커니즘과 보조 판별 모듈을 도입해 출처 클래스의 이상치를 낮추고 학습 가능한 엔드투엔드 부분 도메인 적응 프레임워크를 통해 전달을 촉진한다. 다수 PDA 벤치마크에서 최첨단 성능을 달성한다.

ABSTRACT

Domain adaptation is critical for learning in new and unseen environments. With domain adversarial training, deep networks can learn disentangled and transferable features that effectively diminish the dataset shift between the source and target domains for knowledge transfer. In the era of Big Data, the ready availability of large-scale labeled datasets has stimulated wide interest in partial domain adaptation (PDA), which transfers a recognizer from a labeled large domain to an unlabeled small domain. It extends standard domain adaptation to the scenario where target labels are only a subset of source labels. Under the condition that target labels are unknown, the key challenge of PDA is how to transfer relevant examples in the shared classes to promote positive transfer, and ignore irrelevant ones in the specific classes to mitigate negative transfer. In this work, we propose a unified approach to PDA, Example Transfer Network (ETN), which jointly learns domain-invariant representations across the source and target domains, and a progressive weighting scheme that quantifies the transferability of source examples while controlling their importance to the learning task in the target domain. A thorough evaluation on several benchmark datasets shows that our approach achieves state-of-the-art results for partial domain adaptation tasks.

연구 동기 및 목표

• 소스 라벨 공간이 타깃 라벨 공간을 포함하고 학습 중에 타깃 라벨이 알려지지 않는 PDA를 제시하는 동기를 부여한다.
• 도메인 불변 특징과 점진적 per-example 전달 가능 가중치를 공동으로 학습하는 ETN을 제안한다.
• 공유 클래스에서의 양의 전달을 강화하면서 관련 없는 소스 예제를 낮은 가중치를 주어 음의 전달을 줄인다.
• 예제 전달 가능성을 더 잘 정량화하고 PDA 성능을 향상시키기 위해 보조 구별 경로를 활용한다.

제안 방법

• 각 소스 예제에 대해 전달 가능 가중치 w(xs)를 도입하여 소스 분류기와 도메인 판별기에 대한 기여도를 조정한다.
• 누수형 소프트맥스가 있는 보조 도메인 판별기 ˜Gd를 사용하여 전달 가능성을 정량화하고 공유 클래스와 이상치 클래스를 구분한다.
• w(xs) = 1 - ˜Gd(Gf(xs))를 계산하고 가중치는 각 미니배치 내에서 정규화된다.
• 비라벨링된 타깃 데이터를 활용하기 위해 타깃 예측의 엔트로피 최소화를 포함한다.
• 보조 구성요소를 포함한 특징 추출기, 소스 분류기 및 도메인 판별기를 함께 최적화하는 미니맥스 목표를 형식화한다.
• 더 나은 가중치를 위한 판별 정보와 도메인 정보를 반영하도록 보조 구성요소 ˜Gy와 ˜Gd를 학습시킨다.

실험 결과

연구 질문

• RQ1 PDA에서 큰 소스 라벨 공간에서 작은 타깃 라벨 공간으로 지식을 효과적으로 전달하는 방법은?
• RQ2 학습된 per-example 전달 가능 가중치가 공유 클래스의 양의 전달을 유지하면서 이상치 소스 클래스로부터의 음의 전달을 줄일 수 있는가?
• RQ3 보조 구별기에 판별 정보를 포함시키는 것이 전달 가능성 정량화와 PDA 성능을 향상시키는가?
• RQ4 PDA에서 엔트로피 최소화가 비라벨 타깃 데이터를 활용하는 데 어떤 영향을 미치는가?

주요 결과

• ETN은 Office-31, Office-Home, ImageNet-Caltech, Caltech-256 PDA 벤치마크에서 최첨단 성능을 달성한다.
• ResNet-50을 사용한 Office-Home에서 ETN의 평균 정확도는 70.45%로, SAN(65.30), PADA(62.06) 등의 이전 방법을 상회한다.
• ResNet-50을 사용한 Office-31 및 ImageNet-Caltech에서 ETN은 각각 평균 79.08%를 달성한다(표 2 및 3 맥락에 따라).
• 제거 실험에서 전체 모델이 분류기나 보조 구성요소가 없는 변형보다 더 우수함을 보여주며, 전달 가능 가중치와 보조 구별기의 이점을 확인한다.
• ETN은 여러 PDA 작업 조합에서 일관되게 개선을 보이며, 강력한 전달 가능성 정량화와 음의 전달 완화를 시사한다.