[논문 리뷰] Active Source Free Domain Adaptation

Fan Wang, Zhongyi Han외 2명|arXiv (Cornell University)|2022. 05. 22.

Domain Adaptation and Few-Shot Learning인용 수 8

한 줄 요약

이 논문은 소스 데이터에 접근할 수 없고 레이블이 부여된 타겟 데이터도 없을 때 발생하는 성능 저하 문제를 해결하기 위해 액티브 소스 프리 도메인 어댑테이션(ASFDA)이라는 새로운 설정을 도입한다. 이 설정은 전문가가 소수의 타겟 샘플을 액티브하게 레이블링할 수 있도록 허용한다. 또한, 이웃의 혼란스러운 불확실성, 개별적 다양성, 타겟 유사성에 기반해 유informative한 샘플을 식별하고, 이에 대해 이웃 포칼 손실을 사용하여 모델의 집중도를 높이는 최소 행복점 학습(MHPL)을 제안한다. 이로 인해 최소한의 레이블링 비용으로도 뚜렷한 정확도 향상을 달성한다.

ABSTRACT

Source free domain adaptation (SFDA) aims to transfer a trained source model to the unlabeled target domain without accessing the source data. However, the SFDA setting faces an effect bottleneck due to the absence of source data and target supervised information, as evidenced by the limited performance gains of newest SFDA methods. In this paper, for the first time, we introduce a more practical scenario called active source free domain adaptation (ASFDA) that permits actively selecting a few target data to be labeled by experts. To achieve that, we first find that those satisfying the properties of neighbor-chaotic, individual-different, and target-like are the best points to select, and we define them as the minimum happy (MH) points. We then propose minimum happy points learning (MHPL) to actively explore and exploit MH points. We design three unique strategies: neighbor ambient uncertainty, neighbor diversity relaxation, and one-shot querying, to explore the MH points. Further, to fully exploit MH points in the learning process, we design a neighbor focal loss that assigns the weighted neighbor purity to the cross-entropy loss of MH points to make the model focus more on them. Extensive experiments verify that MHPL remarkably exceeds the various types of baselines and achieves significant performance gains at a small cost of labeling.

연구 동기 및 목표

• 소스 데이터에 접근할 수 없고 레이블이 부여된 타겟 데이터도 없는 소스 프리 도메인 어댑테이션(SFDA)에서 발생하는 성능 저하 문제를 해결하기 위해.
• 전문가가 소수의 타겟 샘플을 액티브하게 레이블링할 수 있는 더 실용적인 설정인 액티브 소스 프리 도메인 어댑테이션(ASFDA)을 제안하기 위해.
• 이웃-혼란스러운, 개별적으로 다른, 타겟 유사성을 띠는 것으로 간주되는 가장 정보가 많은 타겟 샘플, 즉 최소 행복(MH) 포인트를 식별하고 활용하기 위해.
• 이러한 MH 포인트를 효과적으로 탐색하고 활용하기 위해 새로운 불확실성, 다양성, 손실 메커니즘을 사용하는 학습 프레임워크 MHPL을 설계하기 위해.

제안 방법

• 이웃 순수도와 특징 공간 내 이웃 유사도를 기반으로 한 이웃 환경 불확실성(neighbor ambient uncertainty)을 제안하여 이웃-혼란스러운 샘플을 식별한다.
• 선택된 샘플들이 서로 다를 수 있도록 보장하고 쿼리의 중복을 줄이기 위해 이웃 다양성 완화(neighboring diversity relaxation)를 도입한다.
• 사전 훈련된 소스 모델을 사용하여 단일 단계에서 타겟 샘플을 선택하는 일회성 쿼리(one-shot querying)를 적용한다. 이는 도메인 이동을 더 잘 반영한다.
• MH 포인트에 대해 이웃 순수도를 가중치로 부여한 이웃 포칼 손실을 설계하여, 모델이 정보가 많은 샘플에 더 집중하도록 한다.
• 세분화 없이 소스 모델을 사용하여 선택을 지도함으로써 도메인 차이를 인지한 상태를 유지하고, 더 나은 타겟 유사 샘플 탐색에 기여한다.

실험 결과

연구 질문

• RQ1 소스 데이터에 접근할 수 없을 때, 소수의 타겟 샘플에 대한 액티브 레이블링이 소스 프리 도메인 어댑테이션에서 성능 향상에 뚜렷한 기여를 할 수 있는가?
• RQ2 소스 데이터와 감독 신호가 없는 상황에서 가장 정보가 많은 타겟 샘플을 정의하는 특성은 무엇인가?
• RQ3 불확실성, 다양성, 타겟 유사성은 어떻게 통합하여 도메인 어댑테이션에서 효과적인 액티브 샘플 선택을 달성할 수 있는가?
• RQ4 이웃 순수도에 중점을 두는 특화된 손실 함수가 MH 포인트에서의 모델 일반화 능력을 향상시킬 수 있는가?

주요 결과

• MHPL은 최신 SFDA 기법들보다 뚜렷한 성능 향상을 보였으며, Office-Home 데이터셋에서 1% 이상의 개선을 기록했다.
• 이웃 포칼 손실은 다양한 선택 비율에서 정확도를 일관되게 향상시켰으며, 표준 크로스 엔트로피 손실 및 엔트로피 기반 손실보다 뛰어난 성능을 보였다.
• 절단 실험을 통해 이웃 포칼 손실을 제거할 경우 정확도가 낮아지는 것으로 확인되어, MH 포인트를 효과적으로 활용한다는 점을 입증했다.
• 소스 모델을 사용한 일회성 쿼리는 반복적 방법보다 더 나은 샘플 선택을 이끌었으며, 이는 도메인 이동 인식 능력을 유지했기 때문이다.
• 이웃 환경 불확실성과 다양성 완화 전략이 함께 작용하여 정보성과 대표성의 균형을 이루며 선택 품질을 향상시켰다.