[논문 리뷰] A Primer on Domain Adaptation

Pirmin Lemberger, Ivan Panico|arXiv (Cornell University)|2020. 01. 27.

Data Stream Mining Techniques참고 문헌 20인용 수 10

한 줄 요약

이 논문은 직관적이고 기하학적이며 수학적인 프레임워크를 사용하여 도메인 적응(DA)에 대한 교육적 리뷰를 제공한다. 네 가지 핵심 케이스—사전 분포 이질성, 공변량 이질성, 개념 이질성, 부분공간 매핑—을 철저히 분석한다. 사전 분포 이질성에 대한 EM 기반 알고리즘을 유도하여, 베이즈의 정리에 기반한 반복적 재가중 처리를 통해 타겟 클래스 사전 확률을 추정할 수 있음을 보여준다.

ABSTRACT

Standard supervised machine learning assumes that the distribution of the source samples used to train an algorithm is the same as the one of the target samples on which it is supposed to make predictions. However, as any data scientist will confirm, this is hardly ever the case in practice. The set of statistical and numerical methods that deal with such situations is known as domain adaptation, a field with a long and rich history. The myriad of methods available and the unfortunate lack of a clear and universally accepted terminology can however make the topic rather daunting for the newcomer. Therefore, rather than aiming at completeness, which leads to exhibiting a tedious catalog of methods, this pedagogical review aims at a coherent presentation of four important special cases: (1) prior shift, a situation in which training samples were selected according to their labels without any knowledge of their actual distribution in the target, (2) covariate shift which deals with a situation where training examples were picked according to their features but with some selection bias, (3) concept shift where the dependence of the labels on the features defers between the source and the target, and last but not least (4) subspace mapping which deals with a situation where features in the target have been subjected to an unknown distortion with respect to the source features. In each case we first build an intuition, next we provide the appropriate mathematical framework and eventually we describe a practical application.

연구 동기 및 목표

• 감독 기계학습에서 학습(소스) 데이터와 테스트(타겟) 데이터 간의 분포 이질성 문제를 다루며, 이는 표준 기계학습 가정을 약화시킨다.
• 도메인 적응(DA)과 전이 학습(TL) 간의 일관성 없는 용어와 중복 개념으로 인한 혼동을 해결한다.
• 사전 분포 이질성, 공변량 이질성, 개념 이질성, 부분공간 매핑의 네 가지 주요 DA 시나리오에 대해 명확성보다는 개념적 일관성을 강조하는 통합된 프레임워크를 제공한다.
• 이론적 통계 학습과 실무적 구현 간 격차를 메우기 위해 직관, 수학, 실제 응용을 연결한다.

제안 방법

• 사전 분포 이질성 상황에서 알려지지 않은 타겟 클래스 사전 확률을 추정하기 위해 기대값 최대화(EM) 알고리즘을 사용하며, 레이블 할당을 잠재 변수로 간주한다.
• 클래스 조건부 특징 밀도가 소스 및 타겟 도메인 간 동일하다는 가정 하에, 결합 분포의 로그우도를 최대화함으로써 EM 업데이트 규칙을 도출한다.
• 베이즈 정리를 적용하여 타겟 사후 확률을 소스 사후 확률의 재가중치로 표현하며, 이는 타겟과 소스 클래스 사전 확률의 비율에 의해 스케일링된다.
• 반복적 업데이트를 구현한다: 첫 번째로 소스 예측에서 타겟 사후 확률을 추정한다(E단계), 그 다음로 경험 평균을 통해 타겟 사전 확률을 업데이트한다(M단계).
• 최적화 과정에서 확률 단체 조건(사전 확률의 합이 1이 되도록)을 만족시키기 위해 라그랑주 승수를 도입한다.
• 타겟 사전 확률에 대한 닫힌 형태의 업데이트를 확립한다: $\theta_k^{(s+1)} = \frac{1}{m}\sum_{i=1}^{m} \hat{p}_T^{(s)}(\omega_k|\mathbf{x}_i)$, 이는 EM 절차에서 유도된다.

실험 결과

연구 질문

• RQ1 왜곡된 레이블 분포를 가진 소스 도메인에서 학습된 분류기를 타겟 도메인으로 적응시키는 방법은 무엇인가? 이 타겟 도메인의 레이블 사전 확률은 알려져 있지 않지만 다르다.
• RQ2 소스 데이터와 특징만 이용 가능한 상황에서 타겟 사전 확률을 일관되게 추정할 수 있는 수학적 프레임워크는 무엇인가?
• RQ3 잠재적인 레이블 할당이 존재하는 상황에서 EM 알고리즘이 사전 확률 추정치를 반복적으로 개선하는 방식은 무엇인가?
• RQ4 타겟 대비 소스 클래스 사전 확률의 비율이 분层 샘플링에서 선택 편향을 어떻게 수정하는가?
• RQ5 사전적이고 확률 기반의 접근 방식을 히وري스틱 기법에 의존하지 않고, 기본 원리에서 유도할 수 있는가?

주요 결과

• EM 알고리즘은 베이즈 정리와 경험 평균을 반복적으로 활용하여 타겟 클래스 사전 확률을 성공적으로 추정한다.
• 유도된 업데이트 규칙 $\theta_k^{(s+1)} = \frac{1}{m}\sum_{i=1}^{m} \hat{p}_T^{(s)}(\omega_k|\mathbf{x}_i)$ 는 사전 분포 이질성 가정 하에 타겟 사전 확률의 최대우도 추정치로 수렴한다.
• 이 방법은 표준 정규 조건 하에 수렴이 보장되는 EM 프레임워크에 이론적으로 기반한다.
• 알 수 없는 타겟 사전 확률 비율을 사용한 소스 사후 확률의 재가중 처리를 통해 분류기의 선택 편향을 올바르게 보정한다.
• 유도 과정에서 $\theta_k$의 M단계 업데이트가 현재 추정치 하에서 클래스 $k$에 할당된 샘플의 기대 수와 비례하며, 이는 확률 정규화를 보장한다.
• 이 방법은 히وري스틱 재가중 또는 校정 기법에 대한 원칙적인 대안을 제공한다.