[논문 리뷰] Prior Knowledge Guided Unsupervised Domain Adaptation

Tao Sun, Cheng Lu외 1명|arXiv (Cornell University)|2022. 07. 18.

Domain Adaptation and Few-Shot Learning인용 수 4

한 줄 요약

이 논문은 타겟 도메인 클래스 분포에 대한 사전 지식을 통합함으로써 도메인 분포 이탈 상황에서 모델의 일반화 능력을 향상시키는 새로운 프레임워크인 지식 유도 무 supervision 도메인 적응(KUDA)을 제안한다. 이는 단일 상한 및 이진 관계를 제약 조건으로 사용하는 제로-원 프로그래밍 설정과 부드러운 정규화를 통해 흐린 레이블을 보정하는 보정 모듈을 도입하여, SHOT 및 DINE와 같은 자기 학습 기반 UDA 방법의 성능을 크게 향상시킨다. 여러 벤치마크에서 검증된 결과, 이는 성능 향상에 기여한다.

ABSTRACT

The waive of labels in the target domain makes Unsupervised Domain Adaptation (UDA) an attractive technique in many real-world applications, though it also brings great challenges as model adaptation becomes harder without labeled target data. In this paper, we address this issue by seeking compensation from target domain prior knowledge, which is often (partially) available in practice, e.g., from human expertise. This leads to a novel yet practical setting where in addition to the training data, some prior knowledge about the target class distribution are available. We term the setting as Knowledge-guided Unsupervised Domain Adaptation (KUDA). In particular, we consider two specific types of prior knowledge about the class distribution in the target domain: Unary Bound that describes the lower and upper bounds of individual class probabilities, and Binary Relationship that describes the relations between two class probabilities. We propose a general rectification module that uses such prior knowledge to refine model generated pseudo labels. The module is formulated as a Zero-One Programming problem derived from the prior knowledge and a smooth regularizer. It can be easily plugged into self-training based UDA methods, and we combine it with two state-of-the-art methods, SHOT and DINE. Empirical results on four benchmarks confirm that the rectification module clearly improves the quality of pseudo labels, which in turn benefits the self-training stage. With the guidance from prior knowledge, the performances of both methods are substantially boosted. We expect our work to inspire further investigations in integrating prior knowledge in UDA. Code is available at https://github.com/tsun/KUDA.

연구 동기 및 목표

• 라벨이 없는 타겟 도메인 데이터가 존재하는 큰 도메인 분포 이탈 상황에서 무 supervision 도메인 적응(Ubiquitous Domain Adaptation, UDA) 문제를 해결하기 위해.
• 도메인 전문가나 이력 데이터에서 흔히 확보 가능한 타겟 클래스 분포에 대한 사전 지식을 UDA에 실용적으로 통합할 수 있는지 탐색하기 위해.
• 사전 지식 제약 조건을 강제함으로써 흐린 레이블의 품질을 향상시키는 일반적이고 즉각 적용 가능한 보정 모듈을 개발하기 위해.
• 사전 지식이 자기 학습 기반 UDA 방법의 성능을 크게 향상시킬 수 있는지 검증하기 위해, 특히 분포 이탈이 클 경우에 효과적인지 확인하기 위해.
• 향후 도메인 적응 분야에서 사전 지식의 체계적 통합을 위한 연구를 자극하기 위해.

제안 방법

• 사전 지식가지 타겟 도메인의 클래스 분포에 대한 정보가 제공되는 동시에 레이블이 없는 타겟 데이터가 존재하는 새로운 설정인 지식 유도 무 supervision 도메인 적응(KUDA)을 제안한다.
• 사전 지식의 두 가지 유형을 정의한다: 단일 상한(개별 클래스 확률의 하한 및 상한)과 이진 관계(두 클래스 확률 간의 상대적 순서).
• 사전 지식 제약 조건을 기반으로 흐린 레이블 보정을 제로-원 프로그래밍(ZOP) 문제로 공식화하는 보정 모듈을 설계한다.
• 근접한 샘플 간의 보정된 흐린 레이블 일관성을 유지하기 위해 부드러운 정규화 항을 도입한다.
• SHOT 및 DINE와 같은 자기 학습 기반 UDA 방법에 보정 모듈을 통합하여 kSHOT 및 kDINE를 구현한다.
• 최적화를 위한 볼록 근사화와 반복적 최적화 기법을 사용하여 ZOP 문제를 근사적으로 해결함으로써 엔드 투 엔드 학습을 가능하게 한다.

실험 결과

연구 질문

• RQ1 타겟 클래스 분포에 대한 사전 지식이 무 supervision 도메인 적응에서 흐린 레이블의 품질을 향상시킬 수 있는가?
• RQ2 제안된 보정 모듈이 단일 상한과 이진 관계를 활용하여 모델이 생성한 흐린 레이블을 얼마나 효과적으로 보정하는가?
• RQ3 사전 지식 통합이 큰 분포 이탈이 발생하는 다양한 도메인 분포 이탈 상황에서도 일관된 성능 향상을 이끌어내는가?
• RQ4 사전 지식이 제공될 경우, 제안된 방법이 SHOT 및 DINE와 같은 최첨단 UDA 방법보다 우수한 성능을 보이는가?
• RQ5 보정 모듈이 기존 자기 학습 기반 UDA 프레임워크에 효과적이고도 융통성 있게 통합될 수 있는가?

주요 결과

• 제안된 보정 모듈은 사전 지식 제약 조건을 강제함으로써 흐린 레이블의 품질을 크게 향상시켰으며, 이는 교육자 모델 출력과 진정한 타겟 분포 간의 Kullback-Leibler 발산 감소를 통해 입증되었다.
• 보정 모듈을 통합한 kSHOT 및 kDINE는 네 가지 UDA 벤치마크에서 기존의 원본 모델보다 유의미하게 높은 정확도를 달성했다.
• Office-Home 벤치마크에서 단일 상한(UB)을 사용한 kDINE는 평균 정확도 71.4%를 기록하여 DINE(69.7%)와 DINE∗∗(67.9%)를 모두 초월했으며, 사전 지식 통합의 효과를 입증했다.
• VisDA-2017 벤치마크에서 이진 관계(BR)를 사용한 kDINE는 평균 정확도 85.3%를 기록하여 DINE의 84.2%를 상회했으며, 레이블 이탈 설정 하에서의 성능 향상을 확인했다.
• 절단 실험 결과, one-hot 레이블을 사용할 경우 성능 저하가 발생하지만, kDINE∗는 여전히 DINE∗∗를 능가하는 성능을 보여 사전 지식의 가치가 최적의 설정이 아닐 경우에도 유지됨을 증명했다.
• 초기화에 대해 매우 강인하며, 런에 따른 표준 편차가 낮아 안정적인 성능 향상이 이루어짐을 보여주었다.