[논문 리뷰] Divide to Adapt: Mitigating Confirmation Bias for Domain Adaptation of Black-Box Predictors

Jianfei Yang, Xiangyu Peng외 5명|arXiv (Cornell University)|2022. 05. 28.

Domain Adaptation and Few-Shot Learning인용 수 15

한 줄 요약

이 논문은 블랙박스 예측기의 도메인 적응(DABP)을 위한 새로운 프레임워크인 BETA를 제안하며, 목표 도메인을 쉽게 적응하는 부분과 어려운 부분으로 나누어 확증 편향을 완화한다. 가우시안 믹스처 모델 기반의 손실 클러스터링과 데이터 증강 및 MixMatch를 활용한 상호 교수법을 적용한 쌍둥이 네트워크를 통해 BETA는 노이즈가 있는 가짜 레이블을 점진적으로 정제하며, 기존 방법 대비 VisDA-17에서 7.0%의 상대적 향상으로 최신 기술 성능을 달성한다.

ABSTRACT

Domain Adaptation of Black-box Predictors (DABP) aims to learn a model on an unlabeled target domain supervised by a black-box predictor trained on a source domain. It does not require access to both the source-domain data and the predictor parameters, thus addressing the data privacy and portability issues of standard domain adaptation. Existing DABP approaches mostly rely on model distillation from the black-box predictor, \emph{i.e.}, training the model with its noisy target-domain predictions, which however inevitably introduces the confirmation bias accumulated from the prediction noises. To mitigate such bias, we propose a new method, named BETA, to incorporate knowledge distillation and noisy label learning into one coherent framework. This is enabled by a new divide-to-adapt strategy. BETA divides the target domain into an easy-to-adapt subdomain with less noise and a hard-to-adapt subdomain. Then it deploys mutually-teaching twin networks to filter the predictor errors for each other and improve them progressively, from the easy to hard subdomains. As such, BETA effectively purifies the noisy labels and reduces error accumulation. We theoretically show that the target error of BETA is minimized by decreasing the noise ratio of the subdomains. Extensive experiments demonstrate BETA outperforms existing methods on all DABP benchmarks, and is even comparable with the standard domain adaptation methods that use the source-domain data.

연구 동기 및 목표

• 소스 예측기로부터 유도된 노이즈가 있는 가짜 레이블이 지식 전이 과정에서 누적되는 오류를 완화하기 위해 확증 편향을 해결하는 것.
• 기존의 노이즈 있는 레이블 학습 방법이 샘플을 부분집합으로 제거하는 것과 달리, 레이블이 없는 목표 데이터를 모두 활용할 수 있도록 하는 것.
• 어려운 적응 부분에서 노이즈 비율을 최소화함으로써 목표 오차를 감소시킬 수 있음을 이론적으로 입증하는 것.
• 도메인 분할과 상호 교수법을 통해 지식 전이와 반감독 학습을 유기적으로 융합한 프레임워크를 개발하는 것.
• 확증 편향으로 인한 오차 누적 문제를 점진적으로 억제하는 이론적으로 탄탄한 반복적 방법을 제공하는 것.

제안 방법

• 초기 지식 전이에서 유도된 손실 분포에 가우시안 믹스처 모델(GMM)을 적합하여 목표 도메인을 쉽게 적응하는 부분과 어려운 부분으로 분할하는 것.
• MixMatch 기반의 반감독 학습을 통해 모든 목표 샘플을 완전히 활용하며, 쉽게 적응하는 부분을 레이블이 있는 집합으로, 어려운 부분을 레이블이 없는 집합으로 간주하는 것.
• 각 네트워크가 상대의 도메인 분할을 기반으로 상호 교수하는 쌍둥이 네트워크를 구현하며, 증강 기법과 Mixup을 적용해 예측의 다름을 증가시키고 오류 걸러내기 능력을 향상시키는 것.
• 데이터 증강과 Mixup를 통한 도메인 분할 정밀 조정을 통해 쌍둥이 네트워크 간의 불일치를 강화함으로써 상호 오류 수정 기능을 실현하는 것.
• 어려운 적응 부분에서의 노이즈 비율을 감소시킬 경우 목표 오차가 최소화됨을 보여주는 이론적 경계를 도입하는 것.
• 도메인 분할의 임계값 τ와 같은 하이퍼파라미터를 최적화하여 하위도메인 크기와 예측 다름 사이의 균형을 맞추는 것.

실험 결과

연구 질문

• RQ1 손실 분포 클러스터링 기반의 도메인 분할이 DABP에서 깨끗한 샘플과 노이즈가 있는 샘플을 효과적으로 분리하는가?
• RQ2 다른 증강 기법을 적용한 쌍둥이 네트워크 간의 상호 교수법이 확증 편향을 줄이고 일반화 성능을 향상시키는가?
• RQ3 어려운 적응 부분에서의 노이즈 비율이 최종 목표 오차에 어떤 영향을 미치며, 이는 이론적으로 경계될 수 있는가?
• RQ4 지식 전이와 반감독 학습을 융합한 프레임워크가 단일 기반 기법을 사용하는 기존 DABP 방법보다 성능이 뛰어나게 되는가?
• RQ5 도메인 분할에서 하위도메인 크기와 예측 다름 사이의 최적 균형을 이루는 하이퍼파라미터 설정(예: τ)은 무엇인가?

주요 결과

• BETA는 VisDA-17 벤치마크에서 최고의 베이스라인 대비 7.0%의 상대적 향상을 기록하며 최신 기술 성능을 입증한다.
• BETA의 오차율은 20 에포크 동안 지속적으로 감소하는 반면, 표준 지식 전이 방법은 확증 편향으로 인해 조기에 정체된다.
• 확증 편향이 크게 감소하였으며, 어려운 적응 부분에서 BETA와 지식 전이 간 오차 격차는 약 10% 수준이다.
• 상호 교수 기반 쌍둥이 네트워크는 분리된 구성 요소 대비 각각 0.6% (쌍둥이 네트워크), 1.1% (지식 전이), 0.9% (상호 정보)의 성능 향상을 기록한다.
• 최적의 임계값 τ = 0.8은 하위도메인 크기와 예측 다름 사이의 균형을 잘 맞추며, Office-Home (Cl → Pr)에서 78.8%의 정확도를 달성한다. 더 높은 τ에서 하위도메인 간 IoU가 감소함에 따라 다름이 증가하는 경향을 보이며, 이는 더 높은 예측 다름을 의미한다.
• t-SNE 시각화 결과는 학습이 진행됨에 따라 더 단단하고 잘 분리된 클래스 클러스터를 보이며, 향상된 특징 학습과 혼동 감소를 나타낸다.