[논문 리뷰] Discriminative Cross-Domain Feature Learning for Partial Domain Adaptation

Taotao Jing, Ming Shao외 1명|arXiv (Cornell University)|2020. 08. 26.

Domain Adaptation and Few-Shot Learning참고 문헌 45인용 수 5

한 줄 요약

이 논문은 부분 도메인 적응을 위한 분류적 교차 도메인 특징 학습(DCDF) 프레임워크를 제안한다. 이 프레임워크는 가중치가 부여된 교차 도메인 중심 손실과 가중치가 부여된 교차 도메인 그래프 전파를 통해 의사 레이블링과 특징 학습을 동시에 최적화한다. 이 방법은 레이블이 없는 타겟 샘플을 관련된 소스 클래스 중심에 효과적으로 정렬하면서도 관련이 없는 소스 클래스를 억제하여 Office-31 및 Office&Caltech-10 벤치마크에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Partial domain adaptation aims to adapt knowledge from a larger and more diverse source domain to a smaller target domain with less number of classes, which has attracted appealing attention. Recent practice on domain adaptation manages to extract effective features by incorporating the pseudo labels for the target domain to better fight off the cross-domain distribution divergences. However, it is essential to align target data with only a small set of source data. In this paper, we develop a novel Discriminative Cross-Domain Feature Learning (DCDF) framework to iteratively optimize target labels with a cross-domain graph in a weighted scheme. Specifically, a weighted cross-domain center loss and weighted cross-domain graph propagation are proposed to couple unlabeled target data to related source samples for discriminative cross-domain feature learning, where irrelevant source centers will be ignored, to alleviate the marginal and conditional disparities simultaneously. Experimental evaluations on several popular benchmarks demonstrate the effectiveness of our proposed approach on facilitating the recognition for the unlabeled target domain, through comparing it to the state-of-the-art partial domain adaptation approaches.

연구 동기 및 목표

• 소스 도메인이 타겟 도메인보다 더 많은 클래스를 포함하는 부분 도메인 적응의 과제를 해결한다.
• 지식 전이 과정에서 관련이 없는 소스 클래스로부터의 악영향(부정적 전이)을 줄인다.
• 공유되는 클래스 중심에 초점을 맞춤으로써 소스와 타겟 도메인 간의 특징 정렬을 향상시킨다.
• 의사 레이블과 특징 표현을 반복적으로 개선하는 공동 최적화 전략을 개발한다.
• 제한된 또는 레이블이 없는 타겟 도메인 데이터에서 더 나은 일반화 및 인식 성능을 달성한다.

제안 방법

• 관련된 소스 클래스 중심으로부터 레이블이 없는 타겟 샘플이 재구성되도록 유도하는 가중치가 부여된 교차 도메인 중심 손실을 제안한다.
• 엣지 가중치가 관련된 소스 클래스에 초점을 맞추도록 학습되는 가중치가 부여된 교차 도메인 그래프를 도입한다.
• 의사 레이블을 개선하고 특징 임베딩을 갱신하는 데를 번갈아 수행하는 EM 유사 반복 최적화 과정을 제안한다.
• 확률적 재구성 프레임워크를 사용하여 의미적으로 유사한 소스 중심에는 더 높은 재구성 가중치를, 이상치에는 더 낮은 가중치를 할당한다.
• 도메인 불변 특징 학습과 클래스별 정렬을 통합하여 근본적 분포와 조건부 분포의 불일치를 최소화한다.
• 학습 가능한 초매개변수 αp와 αc를 통해 예측 손실항과 중심 손실항의 기여도를 균형 잡는다.

실험 결과

연구 질문

• RQ1 관련 없는 소스 클래스를 걸러내면서도 레이블이 없는 타겟 샘플을 관련된 소스 클래스 중심에 효과적으로 정렬할 수 있는 방법은 무엇인가?
• RQ2 가중치가 부여된 교차 도메인 그래프 전파 메커니즘이 부분 도메인 적응에서 레이블 전이 정확도를 향상시킬 수 있는가?
• RQ3 제안된 가중치가 부여된 중심 손실은 이상치 소스 클래스로부터의 부정적 전이를 어느 정도 감소시킬 수 있는가?
• RQ4 의사 레이블링과 특징 학습 간의 반복 최적화 전략은 전체 인식 성능 향상에 어떻게 기여하는가?
• RQ5 제안된 방법은 표준 부분 도메인 적응 벤치마크에서 기존 최신 기술 수준의 접근법을 초월하는가?

주요 결과

• 제안된 DCDF 프레임워크는 Office-31 및 Office&Caltech-10 벤치마크에서 최신 기술 수준의 성능을 달성하며, 기존 부분 도메인 적응 방법을 능가한다.
• 적용 후 타겟 샘플은 공유된 소스 클래스 중심(녹색 원)에 잘 정렬되며, 관련이 없는 소스 클래스(빨간 원)로의 산산이 흩어짐을 피함을 특징 시각화에서 확인할 수 있다.
• 적용 후 동일 클래스의 소스 및 타겟 특징 간余弦 유사도가 크게 증가하고, 다른 클래스 간 유사도는 감소하여 도메인 정렬이 향상됨을 나타낸다.
• 가중치가 부여된 그래프에서 학습된 클래스 가중치는 이상치 클래스에 대해 더 효과적으로 레이블을 전파하며, 이상치 클래스의 가중치는 감소하거나 완전히 사라짐을 확인하여 효과적인 이상치 억제가 이루어짐을 입증한다.
• 대부분의 작업에서 5회 이내로 수렴하여 빠르고 안정적인 최적화를 보여준다.
• 차원 수 변화에 대해 성능이 뛰어나며, 더 높은 임베딩 차원에서 약간의 향상이 관찰되며, αp와 αc 초매개변수는 다양한 작업에서 민감도가 매우 낮다.