[논문 리뷰] Domain Adaptation and Image Classification via Deep Conditional Adaptation Network

Pengfei Ge, Chuan-Xian Ren외 2명|arXiv (Cornell University)|2020. 06. 14.

Domain Adaptation and Few-Shot Learning참고 문헌 46인용 수 4

한 줄 요약

이 논문은 조건부 분포를 조건부 최대 평균 차이(CMMD)를 사용하여 소스 도메인과 타겟 도메인 간의 깊이 있는 특징의 조건부 분포를 정렬하고, 상호 정보 최대화를 통해 분류 성능을 향상시키는 새로운 비지도 도메 적응 방법인 딥 조건부 적응 네트워크(DCAN)를 제안한다. DCAN은 표준 및 부분적 도메인 적응 벤치마크에서 최신 기술 수준(SOTA) 성능을 달성하며, 부정적 전이를 완화하고 레이블 분포 이동에 대해 더 강건한 성능을 보여 기존 방법을 능가한다.

ABSTRACT

Unsupervised domain adaptation aims to generalize the supervised model trained on a source domain to an unlabeled target domain. Marginal distribution alignment of feature spaces is widely used to reduce the domain discrepancy between the source and target domains. However, it assumes that the source and target domains share the same label distribution, which limits their application scope. In this paper, we consider a more general application scenario where the label distributions of the source and target domains are not the same. In this scenario, marginal distribution alignment-based methods will be vulnerable to negative transfer. To address this issue, we propose a novel unsupervised domain adaptation method, Deep Conditional Adaptation Network (DCAN), based on conditional distribution alignment of feature spaces. To be specific, we reduce the domain discrepancy by minimizing the Conditional Maximum Mean Discrepancy between the conditional distributions of deep features on the source and target domains, and extract the discriminant information from target domain by maximizing the mutual information between samples and the prediction labels. In addition, DCAN can be used to address a special scenario, Partial unsupervised domain adaptation, where the target domain category is a subset of the source domain category. Experiments on both unsupervised domain adaptation and Partial unsupervised domain adaptation show that DCAN achieves superior classification performance over state-of-the-art methods.

연구 동기 및 목표

• 비지도 도메 적응에서 변량 분포 정렬의 한계를 해결하기 위해, 특징와 레이블 간의 조건부 의존성을 忽시하고 부정적 전이의 위험을 초래하는 문제를 해결한다.
• 도메 간 차이를 줄이면서도 분류 성능를 유지하기 위해 소스 도메인의 $P^s(Z|Y)$와 타겟 도메인의 $P^t(Z|Y)$ 조건부 분포를 효과적으로 정렬하는 방법을 개발한다.
• 소스 도메인의 카테고리 부분집합만을 포함하는 타겟 도메인을 가진 도전적인 부분적 UDA 시나리오를 다루는 것.
• 예측 레이블과 샘플 간의 상호 정보를 활용하여 비라벨 타겟 도메인 내 특징의 분류 성능을 향상시키는 것.
• 다양한 도메인 이동 시나리오에 일반화 가능한 강건하고 효율적이며 확장 가능한 조건부 도메인 적응 방법을 제공하는 것.

제안 방법

• DCAN은 소스 도메인과 타겟 도메인의 깊이 있는 특징의 조건부 분포 간 조건부 최대 평균 차이(CMMD)를 최소화하여 $P^s(Z|Y)$와 $P^t(Z|Y)$를 정렬한다.
• 모수적 통계나 적대적 훈련 없이도 조건부 분포 간 격차를 측정하기 위해 커널 기반의 CMMD 추정을 사용한다.
• 추가로, 비라벨 타겟 샘플에서 분류 성능 향상을 위한 분류 정보를 추출하기 위해 상호 정보 최대화 목적함수를 도입하여 가짜 레이블의 품질을 향상시킨다.
• 도메 이동 하에서 효과적인 특징 학습을 가능하게 하기 위해 CMMD 최소화와 상호 정보 최대화를 조합한 공동 손실을 통해 모델을 엔드 투 엔드로 훈련시킨다.
• DCAN은 작은 배치 크기에도 강건하게 설계되어 있으며, 배치 크기와 같은 하이퍼파라미터의 정밀 조정이 필요하지 않다.
• 비라벨 타겟 도메인 내에서 소스 도메인 카테고리의 부분집합만 존재하는 표준 UDA 및 부분적 UDA 모두를 지원하며, 존재하지 않는 클래스에 대한 잘못된 분류를 방지한다.

실험 결과

연구 질문

• RQ1 비지도 도메 적응에서 조건부 분포 정렬을 CMMD를 통해 수행할 경우, 변량 분포 정렬보다 도메인 차이를 더 효과적으로 줄일 수 있는가?
• RQ2 특징와 예측 간의 상호 정보를 통합할 경우, 비라벨 타겟 데이터에서 모델의 일반화 성능가 향상되는가?
• RQ3 타겟 도메인이 소스 도메인 카테고리의 부분집합을 포함하는 부분적 UDA 설정에서 DCAN이 존재하지 않는 클래스에 대한 잘못된 분류를 방지하면서 효과적으로 작동하는가?
• RQ4 다양한 도메인 이동 시나리오에서 DANN 및 DDC와 같은 최신 기술 수준 방법과 비교해 DCAN의 정확도와 강건성은 어떠한가?
• RQ5 CMMD 추정의 계산 비용은 얼마이며, 배치 크기와 특징 차원 수에 따라 어떻게 스케일링되는가?

주요 결과

• Office-31 데이터셋에서, CMMD 추정에 진짜 레이블을 사용할 경우 DCAN은 거의 100%의 분류 정확도를 달성하며, 가짜 레이블 버전보다 유의미하게 높은 성능을 보였다.
• 더 도전적인 W→A 및 D→A 작업에서는 진짜 레이블을 사용한 DCAN이 가짜 레이블 버전보다 약 20% 높은 정확도를 기록했다.
• Office-Home의 부분적 UDA 설정(C→P)에서, 타겟 도메인이 오직 5개의 클래스만을 포함할 경우에도 DCAN은 75% 이상의 정확도를 유지했으며, DANN은 소스 온리 기준 이하로 성능이 저하되었다.
• DCAN의 훈련 시간은 DANN보다 약 6%, DDC보다 약 11% 더 길었으며, 주로 커널 행렬 계산으로 인한 것이지만 실세계 적용에 있어서도 실용적인 수준을 유지했다.
• 작은 배치 크기(n=8)에 대해서도 강건한 성능을 보여, 실무에서 하이퍼파라미터 조정이 거의 필요하지 않음을 시사했다.
• 절단 분석 결과, 특히 부분적 UDA에서 조건부 분포 정렬이 변량 정렬보다 부정적 전이를 줄이는 데 더 효과적임을 확인했다.