[논문 리뷰] Rethinking Distributional Matching Based Domain Adaptation

Bo Li, Yezhen Wang외 7명|arXiv (Cornell University)|2020. 06. 23.

Domain Adaptation and Few-Shot Learning참고 문헌 54인용 수 35

한 줄 요약

논문은 현실적인 도메인 시프트(RDS) 하에서 분포 매칭(DM)의 한계를 분석하고 InstaPBM이라는 인스턴스 기반 예측 행동 매칭 방법을 제안하여 기존 벤치마크와 RDS 벤치마크 모두에서 강건한 무감독 도메인 적응을 달성한다.

ABSTRACT

Domain adaptation (DA) is a technique that transfers predictive models trained on a labeled source domain to an unlabeled target domain, with the core difficulty of resolving distributional shift between domains. Currently, most popular DA algorithms are based on distributional matching (DM). However in practice, realistic domain shifts (RDS) may violate their basic assumptions and as a result these methods will fail. In this paper, in order to devise robust DA algorithms, we first systematically analyze the limitations of DM based methods, and then build new benchmarks with more realistic domain shifts to evaluate the well-accepted DM methods. We further propose InstaPBM, a novel Instance-based Predictive Behavior Matching method for robust DA. Extensive experiments on both conventional and RDS benchmarks demonstrate both the limitations of DM methods and the efficacy of InstaPBM: Compared with the best baselines, InstaPBM improves the classification accuracy respectively by $4.5\%$, $3.9\%$ on Digits5, VisDA2017, and $2.2\%$, $2.9\%$, $3.6\%$ on DomainNet-LDS, DomainNet-ILDS, ID-TwO. We hope our intuitive yet effective method will serve as a useful new direction and increase the robustness of DA in real scenarios. Code will be available at anonymous link: https://github.com/pikachusocute/InstaPBM-RobustDA.

연구 동기 및 목표

• 현실적인 도메인 시프트(RDS) 하에서 분포 기반 매칭(DM) 방법의 한계를 조사한다.
• 실세계 도메인 시프트(LDS, ILDS, TwO)를 반영하는 벤치마크를 만든다.
• DM 가정에 의존하지 않는 강건한 도메인 적응 방법을 제안한다.
• 소스 도메인과 타깃 도메인 간의 예측 행동을 정렬하기 위해 InstaPBM을 도입한다.

제안 방법

• DM 기반 UDA를 비판적으로 분석하고 LDS, ILDS, TwO에서의 실패 모드를 식별한다.
• 엄밀한 평가를 위한 RDS 벤치마크를 도입한다: LDS, ILDS, TwO.
• 세 가지 구성요소로 이루어진 InstaPBM을 제안한다: 상호 정보 예측 행동 매칭(MIM), 대조적 예측 행동 매칭, 그리고 믹스업 예측 행동 매칭, 더불어 자기지도 학습 및 믹스업 작업.
• 예측 행동을 도메인 간에 성립해야 하며 분포 정렬에 의존하지 않는 pθ(y|x)의 특성으로 정의한다.
• 학습 목표를 개발한다: L_M은 상호 정보 최대화, L_C는 대조적 PB 매칭, L_U는 믹스업 PBM, 그리고 L_S는 자기지도 기반의 작업 지향 PBM이다.
• 해당 가중치를 갖는 구성요소를 결합한 통합 최적화(Eq. 7)를 제공한다.

실험 결과

연구 질문

• RQ1 현실적인 도메인 시프트에서 DM 기반 도메인 적응 방법이 타깃 레이블의 정합성을 보장할 수 있는가?
• RQ2 새로운 RDS 벤치마크가 DM 방법의 체계적인 한계를 드러내는가?
• RQ3 도메인 간 분류기의 예측 행동 매핑이 강건한 무감독 도메인 적응을 이끌어낼 수 있는가?
• RQ4 InstaPBM의 실효성은 어떠하며 어떤 구성요소가 성능과 강건성에 가장 많이 기여하는가?

주요 결과

• InstaPBM은 기존 벤치마크(Digits5, VisDA2017) 및 RDS 벤치마크에서 최첨단 DM 기준선보다 일관되게 우수하다.
• Digits5에서 InstaPBM은 최고 벤치마인보다 정확도를 4.5% 포인트 향상시키고, VisDA2017에서 3.9포인트 향상시킨다.
• DomainNet-LDS, DomainNet-ILDS, 및 ID-TwO에서 InstaPBM은 벤치마인 대비 2.2–3.6포인트의 향상을 보인다.
• InstaPBM은 LDS, ILDS, TwO 벤치마크 전반에서 DM 방법보다 현실적인 도메인 시프트에 대한 강건성이 더 강하다.
• 제거(ablation) 분석은 상호 정보 PB 매칭(MIM)이 가장 큰 단일 구성요소 이득을 제공하고, 그다음으로 CPBM_ALL이 따른다.