[논문 리뷰] Domain Adaptation with Auxiliary Target Domain-Oriented Classifier

Jian Liang, Dapeng Hu외 1명|arXiv (Cornell University)|2020. 07. 08.

Domain Adaptation and Few-Shot Learning참고 문헌 78인용 수 8

한 줄 요약

이 논문은 메모리 백을 사용하여 타겟 도메인 전용 비모수적 분류기인 ATDOC라는 새로운 가짜 레이블링 프레임워크를 제안한다. 이는 소스 도메인 데이터에 대한 과적합으로 인한 분류기 편향을 줄이는 데 기여한다. 추가 네트워크 파라미터 없이 이웃 집계 또는 최근접 중심 분류를 통해 ATDOC는 VisDA-C 및 Office-Home와 같은 다양한 DA 벤치마크에서 도메인 정합 및 이전의 SSL 방법을 크게 능가하며, 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Domain adaptation (DA) aims to transfer knowledge from a label-rich but heterogeneous domain to a label-scare domain, which alleviates the labeling efforts and attracts considerable attention. Different from previous methods focusing on learning domain-invariant feature representations, some recent methods present generic semi-supervised learning (SSL) techniques and directly apply them to DA tasks, even achieving competitive performance. One of the most popular SSL techniques is pseudo-labeling that assigns pseudo labels for each unlabeled data via the classifier trained by labeled data. However, it ignores the distribution shift in DA problems and is inevitably biased to source data. To address this issue, we propose a new pseudo-labeling framework called Auxiliary Target Domain-Oriented Classifier (ATDOC). ATDOC alleviates the classifier bias by introducing an auxiliary classifier for target data only, to improve the quality of pseudo labels. Specifically, we employ the memory mechanism and develop two types of non-parametric classifiers, i.e. the nearest centroid classifier and neighborhood aggregation, without introducing any additional network parameters. Despite its simplicity in a pseudo classification objective, ATDOC with neighborhood aggregation significantly outperforms domain alignment techniques and prior SSL techniques on a large variety of DA benchmarks and even scare-labeled SSL tasks.

연구 동기 및 목표

• 가짜 레이블링 방법에서 도메인 적응에 기인한 분류기 편향 문제를 해결하기 위해 소스 도메인 데이터에 대한 과적합을 방지한다.
• 타겟 데이터 전용 도메인 특화 분류기를 학습시켜 비지도 도메인 적응에서 가짜 레이블의 품질을 향상시킨다.
• 복잡한 네트워크 아키텍처를 피하면서도 높은 성능를 유지하는 경량의 파라미터 없는 방법을 개발한다.
• 제안된 방법의 효과성을 표준 도메인 적응 및 극히 적은 레이블이 있는 반지도 학습 벤치마크에서 평가한다.
• 온도 스케일링, 이웃 크기, 정규화 가중치와 같은 하이퍼파rameter가 모델 성능에 미치는 영향을 조사한다.

제안 방법

• 주로 소스 도메인에서 학습된 네트워크와 분리되어, 타겟 도메인 데이터에만 적용되는 보조 타겟 도메인 중심 분류기(ATDOC)를 도입한다.
• 효율적인 추론을 위해 메모리 백을 활용하여 미분류 타겟 샘플의 특징 표현과 소프트 예측을 저장한다.
• 추가 네트워크 파라미터 없이도 작동하는 두 가지 비모수적 분류기인 최근접 중심(NC)과 이웃 집계(NA)를 사용한다.
• NC의 경우, 메모리 백 내의 클래스 중심을 동적으로 업데이트하기 위해 지수 이동 평균을 적용한다.
• NA의 경우, 메모리 백 내의 이웃 샘플의 특징과 예측을 집계하여 신뢰도 가중 가짜 레이블을 생성한다.
• 가능한 정규화 가중치 λ를 사용하여 타겟 중심 가짜 레이블을 학습에 통합하며, 초기 학습의 안정성을 확보하기 위해 선형 래핑 스케줄을 적용한다.

실험 결과

연구 질문

• RQ1 비모수적이고 타겟 전용 분류기는 도메인 적응을 위한 가짜 레이블링에서 편향을 줄일 수 있는가?
• RQ2 메모리 기반 특징 집계를 통한 이웃 집계는 도메인 정합 또는 표준 가짜 레이블링에 비해 성능 및 내구성 면에서 어떻게 비교되는가?
• RQ3 이웃 크기 m, 온도 T, 정규화 가중치 λ와 같은 하이퍼파rameter가 모델 수렴과 정확도에 미치는 영향은 무엇인가?
• RQ4 메모리 백에 소스 특징을 포함시키면 성능이 악화되는가, 그리고 그 이유는 무엇인가?
• RQ5 ATDOC는 극히 적은 레이블이 있는 반지도 학습 작업에 일반화 가능한가?

주요 결과

• ATDOC-NA는 VisDA-C에서 89.7%의 top-1 정확도를 기록하여, 도메인 정합 및 MixMatch를 포함한 이전 최신 기술 수준의 방법들을 능가한다.
• Office-Home에서 ATDOC-NA는 기준 가짜 레이블링 및 MixMatch보다 뚜렷이 향상되었으며, 특히 저샷 설정에서 두드러진 성능 향상을 보였다.
• ATDOC-NA에서 신뢰도 가중치(q̂i,ŷi)를 제거하면 VisDA-C에서 정확도가 89.4%로 떨어지며, 이는 가짜 레이블링에서 개별 샘플의 신뢰도가 중요한 역할을 한다는 것을 입증한다.
• 온도 T=1을 사용할 경우 VisDA-C에서 성능이 85.8%로 떨어지며, 이는 예측을 부드럽게 하는 데서 온도 스케일링의 유용성을 확인한다.
• 메모리 백에 소스 특징을 포함시키면 성능이 저하되며(Office-31에서 87.4%), 이는 타겟 전용 학습의 필요성을 입증한다.
• DomainNet-126에서 ATDOC-NA는 MCC보다 반지도 학습에서 뛰어난 성능을 보이며, 풍부한 미분류 데이터에서 강력한 일반화 능력을 보였다.