[논문 리뷰] Learning Distinctive Margin toward Active Domain Adaptation

Ming Xie, Yuxi Li외 7명|arXiv (Cornell University)|2022. 03. 11.

Domain Adaptation and Few-Shot Learning인용 수 4

한 줄 요약

이 논문은 소스 도메인의 결정 경계 근처에 있는 어려운 예제를 식별하고, 이러한 어려운 예제와 유사한 타겟 샘플을 선택하여 정보성 있는 데이터 선택을 수행하는 간단하면서도 효과적인 활성 도메인 적응 방법인 Select-by-Distinctive-Margin (SDM)을 제안한다. SDM는 Office-Home 벤치마크에서 라벨이 지정된 타겟 데이터의 5%만으로도 최신 기술 수준(SOTA) 성능을 달성하며, 높은 효율성, 안정성 및 확장성 을 보여준다.

ABSTRACT

Despite plenty of efforts focusing on improving the domain adaptation ability (DA) under unsupervised or few-shot semi-supervised settings, recently the solution of active learning started to attract more attention due to its suitability in transferring model in a more practical way with limited annotation resource on target data. Nevertheless, most active learning methods are not inherently designed to handle domain gap between data distribution, on the other hand, some active domain adaptation methods (ADA) usually requires complicated query functions, which is vulnerable to overfitting. In this work, we propose a concise but effective ADA method called Select-by-Distinctive-Margin (SDM), which consists of a maximum margin loss and a margin sampling algorithm for data selection. We provide theoretical analysis to show that SDM works like a Support Vector Machine, storing hard examples around decision boundaries and exploiting them to find informative and transferable data. In addition, we propose two variants of our method, one is designed to adaptively adjust the gradient from margin loss, the other boosts the selectivity of margin sampling by taking the gradient direction into account. We benchmark SDM with standard active learning setting, demonstrating our algorithm achieves competitive results with good data scalability. Code is available at https://github.com/TencentYoutuResearch/ActiveLearning-SDM

연구 동기 및 목표

• 라벨이 지정된 타겟 데이터가 제한된 활성 도메인 적응에서 도메인 이동 문제를 해결한다.
• 기존 활성 학습 방법이 도메인 갭을 처리하지 못하거나 복잡하고 과적합되는 쿼리 함수에 의존하는 한계를 극복한다.
• 소스 도메인과 타겟 도메인 간의 내재된 관계를 활용하여 더 효과적인 데이터 선택 방법을 개발한다.
• 초기화 조건과 쿼리 복잡성에 대한 민감도를 최소화하여 모델의 안정성과 확장성을 확보한다.
• 마진 기반 샘플링이 정보성 있고 이식 가능한 샘플을 식별하는 데 효과적인 이유에 대한 이론적 근거를 제공한다.

제안 방법

• 소스 도메인에서 클래스 간 간격을 최대화하도록 유도하는 최대 마진 손실을 제안하여, 결정 경계 근처의 어려운 예제를 암묵적으로 식별한다.
• 마진 샘플링 전략을 사용하여, 소스 도메인의 결정 경계에 가장 가까운 특징을 가진 타겟 샘플을 선택한다. 이는 카테고리 중심까지의 거리 기반으로 수행된다.
• SDM-AG를 도입하여, 적응형 조절 요소와 최대 로짓 정규화를 사용해 마진 손실의 기울기를 동적으로 조절함으로써 학습 안정성을 향상시킨다.
• SDM-AG-Grad라는 두 번째 변형을 제안하여, 마진 샘플링 함수의 일阶 도함수를 통합함으로써 데이터 샘플링 중 선택성(selectivity)을 향상시킨다.
• 이론적 분석을 통해 마진 손실가 SVM과 유사한 행동을 보이며, 어려운 예제에 집중하고 타겟 도메인으로의 효과적인 이식을 가능하게 함을 확인했다.
• 쿼리 복잡도가 O(NKD + N log N)로 계산이 매우 효율적이며, CLUE 및 TQS와 같은 이전 방법들보다 훨씬 빠르다.

Figure 1 : A simple conceptual illustration of our Select-by-Distinctive-Margin pipeline. Before each sampling step, a model is trained with a maximum margin objective, and unlabeled data lying in the margin with similar distance to different categorical centers are sampled to augment training data.

실험 결과

연구 질문

• RQ1 간단한 마진 기반 손실 함수가 소스 도메인에서 이식 가능한 어려운 예제를 효과적으로 식별할 수 있는가?
• RQ2 제안된 마진 샘플링 전략이 활성 도메인 적응에서 불확실성 기반 또는 다양성 기반 샘플링과 비교해 어떻게 성능을 냈는가?
• RQ3 기존의 활성 도메인 적응 방법과 비교해 SDM을 사용할 경우, 라벨이 지정된 타겟 데이터가 제한된 상황에서 모델 성능이 얼마나 향상되는가?
• RQ4 마진 값과 손실 균형 요소와 같은 하이퍼파라미터에 대해 SDM의 민감도는 어느 정도인가?
• RQ5 제안된 방법이 다양한 도메인 이동 시나리오에서 높은 효율성과 확장성을 유지할 수 있는가?

주요 결과

• SDM-AG는 Office-Home의 모든 시나리오에서 일관된 성능 향상을 보이며, R→A 설정에서 가장 큰 향상이 관찰되어 애너테이션 예산 증가에 따라 강력한 확장성을 보였다.
• SDM-AG는 타겟 데이터의 5%만으로도 ATDOC 및 CDAN과 같은 비지도 도메인 적응 방법의 성능을 맞추거나 초월하여 높은 데이터 효율성을 입증했다.
• 하이퍼파라미터 변화에 대해 매우 강건하여, 마진 $m$과 균형 요소 $ abla$의 다양한 값에서도 성능 변동이 최소한이었으며, 높은 안정성을 보였다.
• 가장 가까운 경쟁자(CLUE) 대비 쿼리 시간에서 24.6배의 속도 향상을 달성했으며, 쿼리 시간은 단 0.067초에 불과하여 높은 계산 효율성을 입증했다.
• 이론적 분석을 통해 마진 손실가 SVM과 유사한 행동을 보이며, 어려운 예제에 집중하고 타겟 도메인으로의 효과적인 이식을 가능하게 함을 확인했다.
• SDM-AG와 SDM-AG-Grad 두 가지 변형은 각각 학습 안정성 향상과 샘플링 선택성 향상을 달성했으며, 모델 복잡도 증가 없이도 성능 향상을 이룬다.

Figure 2 : Illustration of active learning loop for domain adaptation