[논문 리뷰] Attending to Discriminative Certainty for Domain Adaptation

Vinod K Kurmi, Shanu Kumar외 1명|arXiv (Cornell University)|2019. 06. 08.

Domain Adaptation and Few-Shot Learning참고 문헌 52인용 수 8

한 줄 요약

이 논문은 분류기 학습 중에 적응 가능한 이미지 영역—특히 전경 객체—을 식별하고 집중하기 위해 판별기의 확률적 확신도를 활용하는 새로운 도메인 적응 방법을 제안한다. 불확실도 추정(알레아토릭 및 예측적)을 사용해 주의를 가중함으로써, 이 방법은 타겟 도메인에서의 일반화 성능을 향상시켜 기존 방법 대비 Office-Home에서 최대 7.4%의 정확도 향상을 달성한다.

ABSTRACT

In this paper, we aim to solve for unsupervised domain adaptation of classifiers where we have access to label information for the source domain while these are not available for a target domain. While various methods have been proposed for solving these including adversarial discriminator based methods, most approaches have focused on the entire image based domain adaptation. In an image, there would be regions that can be adapted better, for instance, the foreground object may be similar in nature. To obtain such regions, we propose methods that consider the probabilistic certainty estimate of various regions and specify focus on these during classification for adaptation. We observe that just by incorporating the probabilistic certainty of the discriminator while training the classifier, we are able to obtain state of the art results on various datasets as compared against all the recent methods. We provide a thorough empirical analysis of the method by providing ablation analysis, statistical significance test, and visualization of the attention maps and t-SNE embeddings. These evaluations convincingly demonstrate the effectiveness of the proposed approach.

연구 동기 및 목표

• 원천 레이블은 제공되지만 타겟 레이블은 제공되지 않는 비지도 도메인 적응 환경에서 도메인 이동 문제를 해결한다.
• 전체 이미지 기반 도메인 적응의 한계를 극복하기 위해 적응에 더 적합한 영역을 식별한다.
• 판별기가 가장 확신하는 영역에 집중함으로써 타겟 도메인에서의 분류기 일반화 성능을 향상시킨다.
• 추론 과정을 수정하지 않고도 확률적 불확실도를 사용해 주의를 이끌어내는 체계적인 방법을 제공한다.
• 종합적인 아블레이션, 통계적 검증 및 시각화를 통해 뛰어난 성능을 입증한다.

제안 방법

• 학습 중에 이미지 영역 전반에 걸쳐 알레아토릭 및 예측적 불확실도를 추정하기 위해 확률적 판별기를 사용한다.
• 판별기의 불확실도 추정치에서 확신 기반 주의 가중치를 구성하여, 판별기가 가장 자신감 있는 영역을 강조한다.
• 이러한 확신 가중치를 분류기 학습 중에 적용하여 적응 가능한 영역, 특히 전경 객체에 더 집중한다.
• 판별기가 식별한 고확신 영역에 중점을 두는 가중치가 부여된 크로스 엔트로피 손실을 사용해 분류기를 훈련시킨다.
• 확신도 맵은 학습 중에만 사용하며, 추론 시에는 주의 가중치를 사용하지 않는다.
• 기본적인 적대적 도메인 적응 프레임워크 내에 통합하며, 특징 정렬을 위해 기울기 반전 기법을 사용한다.

실험 결과

연구 질문

• RQ1 판별기에서 유도된 확률적 불확실도 추정치가 도메인 적응에 더 적합한 이미지 영역을 식별하는 데 도움이 될 수 있는가?
• RQ2 분류기 학습을 고확신 영역에 집중함으로써, 예측 불가능한 타겟 도메인에서의 일반화 성능이 향상되는가?
• RQ3 정확도 및 내구성 측면에서 제안된 방법은 최신 기술 도메인 적응 접근법보다 어떻게 비교되는가?
• RQ4 판별기의 확신도 기반 주의 맵이 분류기의 실제 클래스 활성화 패턴과 어느 정도 일치하는가?
• RQ5 제안된 방법의 성능 향상은 벤치마크 데이터셋 전반에서 통계적으로 유의미한가?

주요 결과

• 제안된 방법은 Office-Home 데이터셋에서 최신 기술 방법 대비 최대 7.4% 높은 정확도를 달성한다.
• 학습 과정 중 판별기의 확신도 맵은 배경 영역에서 전경 영역으로, 그 다음에는 적응이 어려운 영역으로 변화하는 경향을 보이며, 동적인 적응 학습 과정을 나타낸다.
• t-SNE 시각화 결과, 제안된 모델의 특징는 기준선 방법 대비 더 명확하고 분명한 클래스 클러스터(31개 클래스에 대해 31개 클러스터)를 생성한다.
• 제안된 모델의 특징를 사용할 경우 A-distance 지표가 크게 감소하여, ResNet 및 GRL 기준선 대비 더 작은 도메인 차이를 나타낸다.
• 통계적 유의성 검증(Nemenyi 검정) 결과, 0.05 유의수준에서 제안된 방법의 성능가 GRL보다 유의미하게 뛰어나다는 것이 확인되었다.
• 추론 시 분류기의 주의 맵이 학습 시 사용된 확신도 맵과 잘 일치함으로써, 방법의 일관성과 해석 가능성에 대한 검증이 이루어졌다.