[논문 리뷰] Discriminative Joint Probability Maximum Mean Discrepancy (DJP-MMD) for Domain Adaptation

Wen Zhang, Dongrui Wu|arXiv (Cornell University)|2019. 12. 01.

Domain Adaptation and Few-Shot Learning참고 문헌 33인용 수 5

한 줄 요약

이 논문은 이전의 도메인 적응 방법이 마진 및 조건부 불일치를 별도로 다루며 공동 확률 분포 불일치를 忽略하는 한계를 해결하기 위해, 이동성과 분류 가능성을 동시에 최소화하고 최대화하는 새로운 도메인 적응 방법인 Discriminative Joint Probability Maximum Mean Discrepancy (DJP-MMD)를 제안한다. 공동 확률 도메인 적응 프레임워크에서 평가된 DJP-MMD는 여섯 개인 이미지 분류 데이터셋에서 전통적인 MMD 기반 방법들을 능가하여 높은 정확도와 더 빠른 수렴 속도, 향상된 강인성을 확보한다.

ABSTRACT

Maximum mean discrepancy (MMD) has been widely adopted in domain adaptation to measure the discrepancy between the source and target domain distributions. Many existing domain adaptation approaches are based on the joint MMD, which is computed as the (weighted) sum of the marginal distribution discrepancy and the conditional distribution discrepancy; however, a more natural metric may be their joint probability distribution discrepancy. Additionally, most metrics only aim to increase the transferability between domains, but ignores the discriminability between different classes, which may result in insufficient classification performance. To address these issues, discriminative joint probability MMD (DJP-MMD) is proposed in this paper to replace the frequently-used joint MMD in domain adaptation. It has two desirable properties: 1) it provides a new theoretical basis for computing the distribution discrepancy, which is simpler and more accurate; 2) it increases the transferability and discriminability simultaneously. We validate its performance by embedding it into a joint probability domain adaptation framework. Experiments on six image classification datasets demonstrated that the proposed DJP-MMD can outperform traditional MMDs.

연구 동기 및 목표

• 기존 도메인 적응 방법이 마진 및 조건부 불일치를 별도로 다루며 더 자연스러운 공동 확률 분포 불일치를 忽略하는 한계를 해결하기 위해.
• 동일 클래스의 도메인 불일치를 최소화하는 이동성과 서로 다른 클래스 간의 도메인 불일치를 최대화하는 분류 가능성을 동시에 향상시켜 도메인 적응 성능을 향상시키기 위해.
• 기존의 공동 MMD보다 이론적으로 타당하고 간단하며 정확한 도메인 분포 이동 측정 방법의 대안을 제공하기 위해.
• 실세계 이미지 분류 벤치마크에서 광범위한 실험을 통해 제안된 DJP-MMD의 효과성을 검증하기 위해.

제안 방법

• DJP-MMD는 특징과 레이블의 공동 확률 분포를 기반으로 소스 도메인과 타겟 도메인 간의 불일치를 측정하며, 마진 및 조건부 분포를 별도로 다루지 않는다.
• 다른 클래스 간에 도메인 간 공동 확률 MMD를 최대화하는 분류 가능성 성분을 도입하여 클래스 간 분리도를 향상시킨다.
• 간단한 정규화를 통한 공동 확률 도메인 적응(JPDA) 프레임워크에 통합되어 엔드 투 엔드 최적화가 가능하다.
• 비선형 도메인 이동을 다룰 수 있도록 커널화되어 있어 딥 러닝 및 대비 학습 환경에서도 적용 가능하다.
• 이동성과 분류 가능성을 균형 잡기 위해 무게 매개변수 μ와 정규화 매개변수 λ를 사용한 최적화가 이루어진다.
• 수렴성과 특징 분포 정렬을 검증하기 위해 t-SNE 시각화와 MMD 거리 추적을 활용한다.

실험 결과

연구 질문

• RQ1 공동 확률 분포 불일치는 마진 및 조건부 MMD보다 더 정확하고 단순한 도메인 이동 측정 방법이 될 수 있는가?
• RQ2 이동성과 분류 가능성을 동시에 최적화하면 도메인 적응에서 더 나은 분류 성능을 달성할 수 있는가?
• RQ3 정확도, 수렴 속도, 강인성 측면에서 DJP-MMD는 전통적인 MMD 기반 방법과 어떻게 비교되는가?
• RQ4 μ와 λ의 하이퍼파rameter 변화에 대해 제안된 방법이 얼마나 강인한가?
• RQ5 DJP-MMD는 특징을 도메인 간에 효과적으로 정렬하면서도 클래스 간 분리도를 유지할 수 있는가?

주요 결과

• DJP-MMD는 USPS+MNIST 데이터셋에서 평균 분류 정확도 60.68%를 기록하여 베이스라인 방법들을 능가했다.
• Multi-PIE 데이터셋에서 JPDA는 JDA(94.46s) 및 BDA(107.47s)보다 더 빠른 수렴 속도(46.12s)를 보이며 평균 MMD 거리가 낮아 50% 이상의 계산 시간 절감을 이뤘다.
• 제거 실험을 통해 DJP-MMD(분류 가능성 포함)가 이동성 전용인 JP-MMD 및 공동 MMD 기반 베이스라인보다 성능 향상이 뚜렷하게 확인되었다.
• t-SNE 시각화 결과, JPDA는 동일 클래스의 샘플을 도메인 간에 효과적으로 정렬하면서도 서로 다른 클래스 간의 명확한 분리도 유지함을 보였다.
• μ ∈ [0.001, 0.2] 및 λ ∈ [0.01, 10] 범위 내에서 하이퍼파rameter 변화에 대해 강인성을 확보하며 높은 성능 유지를 유지했다.
• 모든 여섯 데이터셋에서 DJP-MMD는 전통적인 MMD 기반 방법들을 일관되게 능가하여 도메인 불일치 측정의 우수성과 분류 정확도 향상 능력을 입증했다.