[논문 리뷰] Close Yet Distinctive Domain Adaptation

Lingkun Luo, Xiaofang Wang외 4명|arXiv (Cornell University)|2017. 04. 13.

Domain Adaptation and Few-Shot Learning참고 문헌 19인용 수 19

한 줄 요약

이 논문은 최대 평균 차이(MMD)를 통해 도메인 불일치를 최소화하면서 동시에 피셔의 선형 판별 분석에서 영감을 얻은 반발력 항을 통해 클래스 간 분리성을 강화하는 새로운 특징 표현 방법인 Close Yet Discriminative Domain Adaptation(CDDA)을 제안한다. 이 방법은 36개의 교차 도메인 이미지 분류 작업 전반에서 최신 기준(SOTA) 성능을 달성하며, 전체 평균 정확도가 62.02%에 이르며 이는 이전 방법 대비 최대 4.5점 향상된 성능이다.

ABSTRACT

Domain adaptation is transfer learning which aims to generalize a learning model across training and testing data with different distributions. Most previous research tackle this problem in seeking a shared feature representation between source and target domains while reducing the mismatch of their data distributions. In this paper, we propose a close yet discriminative domain adaptation method, namely CDDA, which generates a latent feature representation with two interesting properties. First, the discrepancy between the source and target domain, measured in terms of both marginal and conditional probability distribution via Maximum Mean Discrepancy is minimized so as to attract two domains close to each other. More importantly, we also design a repulsive force term, which maximizes the distances between each label dependent sub-domain to all others so as to drag different class dependent sub-domains far away from each other and thereby increase the discriminative power of the adapted domain. Moreover, given the fact that the underlying data manifold could have complex geometric structure, we further propose the constraints of label smoothness and geometric structure consistency for label propagation. Extensive experiments are conducted on 36 cross-domain image classification tasks over four public datasets. The comprehensive results show that the proposed method consistently outperforms the state-of-the-art methods with significant margins.

연구 동기 및 목표

• 기존 도메인 적응 방법이 도메인 이탈을 줄이지만, 클래스 간 분류 능력을 유지하거나 향상시키지 못하는 한계를 해결하기 위해.
• 원천 도메인과 타겟 도메인을 동시에 끌어당기면서 다른 클래스의 부분 도메인은 밀어내는 특징 표현 학습 방법을 개발하기 위해.
• 레이블 전파 과정에 기하학적 구조 일致성과 레이블 스무쓰니스를 통합하여 타겟 데이터의 일반화 능력을 향상시키기 위해.
• 다양한 교차 도메인 이미지 분류 벤치마크에서 제안된 방법의 유효성을 입증하기 위해.

제안 방법

• 방법은 원천 도메인과 타겟 도메인 간의 근사 분포 및 조건부 분포 불일치를 최소화하기 위해 최대 평균 차이(MMD)를 사용하여 잠재 공간 내에서 두 도메인을 가까이 끌어당긴다.
• MMD 공간 내에서 클래스 간 거리를 최대화하기 위해 반발력 항을 도입하여, 서로 다른 클래스 기반 부분 도메인을 서로 멀어지게 하여 분류 능력을 향상시킨다.
• 레이블 스무쓰니스와 기하학적 구조 일치성의 제약 조건 하에서 레이블 전파를 수행하여 데이터 다양체의 본질적 기하학적 구조를 유지한다.
• 이 방법은 두 가지 변형으로 구현된다: 단순 신경망 예측자로 구성된 CDDA(a)와 제안된 레이블 전파를 포함한 CDDA(b)이며, 모두 번갈아가며 최적화된다.
• 정규화 파rameter α, k(이웃 수), λ(MMD 가중치)와 같은 하이퍼파rameter는 최적의 성능을 위해 튜닝된다.

실험 결과

연구 질문

• RQ1 도메인 불일치를 동시에 최소화하고 클래스 간 분리성을 최대화하는 것이 도메인 적응 성능을 향상시킬 수 있는가?
• RQ2 반발력 항의 포함 여부가 공유 잠재 공간 내에서 학습된 특징의 분류 능력에 어떤 영향을 미치는가?
• RQ3 레이블 전파 과정에 기하학적 구조 일치성과 레이블 스무쓰니스를 통합할 경우, 타겟 도메인에서의 모델 일반화 능력은 어느 정도 향상되는가?
• RQ4 α, k, λ와 같은 하이퍼파rameter 설정에 따라 제안된 방법의 민감도는 어느 정도인가?

주요 결과

• 반발력과 레이블 전파를 모두 통합한 CDDA(b)는 36개의 교차 도메인 작업 전반에서 전체 평균 정확도 62.02%를 달성하며, 모든 6개의 베이스라인 방법보다 뚜렷이 뛰어난 성능을 보였다.
• COIL20 데이터셋에서는 CDDA(b)가 놀라운 99.65%의 정확도를 기록하여 비지도 도메인 적응에서 뛰어난 성능을 입증했다.
• 반발력 구성 요소만을 포함한 CDDA(a)는 JDA 대비 전체 평균 정확도 약 3점 향상되어, 분류 능력 향상에 효과적임을 입증했다.
• 레이블 전파 기법은 CDDA(a) 대비 약 2점의 성능 향상을 이끌어내어, 기하학적 제약과 스무쓰니스 제약이 일반화 능력 향상에 크게 기여함을 시사했다.
• 방법은 약 10회 반복 후 안정적으로 수렴하며, 특히 COIL20에서 α를 약 0.99 근처로 설정할 경우 하이퍼파rameter 변화에 대해 매우 강인한 성능을 보였다.