[논문 리뷰] Active Learning for Domain Adaptation: An Energy-Based Approach

Binhui Xie, Longhui Yuan외 4명|arXiv (Cornell University)|2021. 12. 02.

Domain Adaptation and Few-Shot Learning인용 수 10

한 줄 요약

이 논문은 에너지 기반 활성 도메인 적응(EADA)을 제안하며, 이는 원천 도메인과 타겟 도메인 간의 자유 에너지 차이를 활용하여 가장 정보가 풍부한 타겟 샘플을 선택하는 새로운 활성 학습 방법이다. 자유 에너지에 의한 도메인 분산과 MvSM 점수에 의한 인스턴스 불확실성의 조합을 통해 EADA는 특수한 아키텍처나 거리 계산을 요구하지 않으면서도 VisDA-2017 및 Office-Home 벤치마크에서 기존 방법보다 뚜렷한 정확도 향상을 이룩하며 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Unsupervised domain adaptation has recently emerged as an effective paradigm for generalizing deep neural networks to new target domains. However, there is still enormous potential to be tapped to reach the fully supervised performance. In this paper, we present a novel active learning strategy to assist knowledge transfer in the target domain, dubbed active domain adaptation. We start from an observation that energy-based models exhibit extit{free energy biases} when training (source) and test (target) data come from different distributions. Inspired by this inherent mechanism, we empirically reveal that a simple yet efficient energy-based sampling strategy sheds light on selecting the most valuable target samples than existing approaches requiring particular architectures or computation of the distances. Our algorithm, Energy-based Active Domain Adaptation (EADA), queries groups of target data that incorporate both domain characteristic and instance uncertainty into every selection round. Meanwhile, by aligning the free energy of target data compact around the source domain via a regularization term, domain gap can be implicitly diminished. Through extensive experiments, we show that EADA surpasses state-of-the-art methods on well-known challenging benchmarks with substantial improvements, making it a useful option in the open world. Code is available at https://github.com/BIT-DA/EADA.

연구 동기 및 목표

• 대규모 레이블이 부여된 타겟 데이터에 대한 의존도를 줄임으로써 비지도 도메인 적응과 완전히 지도된 학습 간 격차를 해소하기 위해.
• 복잡한 아키텍처나 거리 계산을 요구하지 않는 효율적인 활성 학습 전략을 개발하여 가장 정보가 풍부한 타겟 샘플을 선택하기 위해.
• 원천 도메인과 타겟 도메인 간의 내재된 자유 에너지 편향을 도메인 분산과 불확실성의 대체 지표로 활용하여 활성 샘플링에 활용하기 위해.
• 타겟 자유 에너지 분포를 원천 도메인의 분포와 일치시키는 정규화를 통해 도메인 이탈을 암묵적으로 감소시키기 위해.

제안 방법

• EADA는 타겟 도메인의 무라벨 샘플 자유 에너지를 도메인 특성의 대체 지표로 사용하여 자유 에너지가 높은 샘플을 타겟 분포의 더 대표적인 것으로 선별한다.
• 각 타겟 샘플에 대해 최소 에너지와 두 번째 최소 에너지 간의 차이(MvSM 점수)를 계산하여 모델의 불확실성을 정량화하고 불확실성이 높은 인스턴스를 우선순위에 올린다.
• 정규화 항을 통해 원천 도메인과 타겟 도메인 간의 자유 에너지 갭을 최소화함으로써 도메인 정렬과 불확실성 감소를 동시에 최적화한다.
• 선택 과정은 도메인 대표성과 예측 불확실성을 균형 잡는 타겟 데이터 배치를 반복적으로 쿼리한다.
• 표준 딥 네URAL 네트워크와 호환되며 도메인 구분자나 클러스터링 헤드와 같은 추가 구성 요소가 필요하지 않다.

실험 결과

연구 질문

• RQ1 원천 도메인과 타겟 도메인 간의 자유 에너지 차이가 도메인 적응에서 활성 샘플링에 효과적인 아키텍처 독립 신호로 기능할 수 있는가?
• RQ2 도메인 분산과 인스턴스 불확실성을 어떻게 함께 모델링하여 도메인 이탈 상황에서의 활성 학습 효율을 향상시킬 수 있는가?
• RQ3 복잡한 아키텍처나 거리 메트릭을 기반으로 하는 기존 방법보다 단순한 에너지 기반 샘플링 전략이 더 나은 성능을 낼 수 있는가?
• RQ4 자유 에너지 정규화가 활성 도메인 적응에서 도메인 이탈을 어느 정도 감소시키고 모델 일반화를 향상시킬 수 있는가?

주요 결과

• EADA는 VisDA-2017 벤치마크에서 최신 기술 수준의 성능을 달성하며, 기존 활성 도메인 적응 방법보다 뚜렷이 뛰어난 성능을 보였다.
• Office-Home 데이터셋에서는 'Source Only' 기준선을 크게 앞서며 완전히 지도된 학습의 성능에 가까워졌다.
• 분포도에서 원천 도메인의 분포와 유사하게 된 자유 에너지 분포를 통해 도메인 갭을 감소시켰다.
• 무작위 샘플링 및 기타 활성 학습 기준선 대비 뚜렷한 향상을 보이며, 에너지 기반 선택 전략의 효과성을 입증했다.
• 절단 분석을 통해 자유 에너지와 MvSM 요소가 성능 향상에 기여하며, 이중 목표 설계의 타당성을 확인했다.