[논문 리뷰] Minimal-Entropy Correlation Alignment for Unsupervised Deep Domain Adaptation

Pietro Morerio, Jacopo Cavazza외 1명|arXiv (Cornell University)|2017. 11. 28.

Domain Adaptation and Few-Shot Learning인용 수 84

한 줄 요약

MECA는 공분산(2차) 정렬을 SPD 다양체에서 엔트로피 최소화와 결합하고, 기하 거리(거지 성거리)와 엔트로피 기반의 비지도 하이퍼파라미터 선택기를 사용하여 비지도 딥 도메인 적응을 향상시킨다.

ABSTRACT

In this work, we face the problem of unsupervised domain adaptation with a novel deep learning approach which leverages on our finding that entropy minimization is induced by the optimal alignment of second order statistics between source and target domains. We formally demonstrate this hypothesis and, aiming at achieving an optimal alignment in practical cases, we adopt a more principled strategy which, differently from the current Euclidean approaches, deploys alignment along geodesics. Our pipeline can be implemented by adding to the standard classification loss (on the labeled source domain), a source-to-target regularizer that is weighted in an unsupervised and data-driven fashion. We provide extensive experiments to assess the superiority of our framework on standard domain and modality adaptation benchmarks.

연구 동기 및 목표

• 타깃 라벨이 없는 상황에서 비지도 도메인 적응의 필요성을 제시한다.
• 최적 상관 정렬이 소스 교차 엔트로피와 타깃 엔트로피를 최소화함을 보인다.
• 공분산 정렬을 위한 기하 거리(SPD 다양체)의 거리, 유클리드 메트릭보다 우수함 제안한다.
• 타깃 라벨 없이도 규제 강도를 선택하는 엔트로피 기반의 데이터 기반 방법 제안한다.
• 표준 도메인 적응 벤치마크에서 최첨단 성능을 입증한다.

제안 방법

• 상관 정렬을 SPD 다양체 위의 공분산 행렬을 통한 2차 통계 정렬로 공식화한다.
• 소스와 타깃 공분산 간의 제곱 로그-유클리드 거리를 정렬 손실로 사용한다.
• MECA 목표에서 소스의 지도 교차 엔트로피와 기하 거리 정렬 손실을 하나로 결합한다.
• 타깃 라벨 없이도 규제 가중치를 선택하는 엔트로피 기반의 데이터 기반 방법 제안한다.
• 최적 상관 정렬이 최소 타깃 엔트로피를 의미한다는 이론적 연결 고리(정리 1)를 보인다.
• 일반 심층 신경망의 역전파를 통한 그래디언트 기반 학습을 제공한다.

실험 결과

연구 질문

• RQ1 최적 공분산 정렬이 비지도 도메인 적응에서 암묵적으로 타깃 도메인 엔트로피를 최소화하는가?
• RQ2 측지 SPD 거리가 공분산 정렬에서 유클리드 페널티보다 더 나은 정렬과 타깃을 제공하는가?
• RQ3 타깃 라벨 없이도 엔트로피 기반 기준이 하이퍼파라미터 선택을 효과적으로 수행할 수 있는가?
• RQ4 표준 벤치마크에서 MECA가 최첨단 비지도 도메인 적응 방법들과 어떻게 비교되는가?

주요 결과

• 최적 상관 정렬은 소스 교차 엔트로피와 타깃 엔트로피의 합을 최소화한다(정리 1).
• 측지 거리(log-Euclidean) SPD 거리는 실무에서 공분산 정렬에 대해 유클리드 페널티보다 우수하다.
• 타깃 엔트로피를 사용하여 비지도 기준으로 하이퍼파라미터 선택을 유도할 수 있다.
• MECA는 표준 벤치마크에서 DSN, DTN, GRL, ADDA, TRIPLE, Deep CORAL과 비교해 경쟁력 있거나 우수한 성능을 달성한다.
• MECA는 SVHN→MNIST 및 NYUD에서 Deep CORAL 대비 두드러진 개선을 보이며, SYN→SVHN에서도 강한 성능을 보인다.
• 보고된 작업들 전반에 걸쳐 MECA(E + C)는 다수의 엔트로피 관련 및 정렬 베이스라인을 능가한다.