[논문 리뷰] Continuous Transfer Learning with Label-informed Distribution Alignment

Jun Wu, Jingrui He|arXiv (Cornell University)|2020. 06. 05.

Domain Adaptation and Few-Shot Learning참고 문헌 34인용 수 6

한 줄 요약

이 논문은 시간에 따라 변화하는 타겟 도메인에서의 음성 전이를 완화하기 위해 레이블 정보를 반영한 C-분산도를 사용하는 연속적 전이 학습 프레임워크인 TransLATE를 제안한다. 잠재 공간에서 분류 오차와 C-분산도를 최소화함으로써 TransLATE는 변화하는 데이터에서 예측 성능을 향상시키며, 실험 결과는 기준 모델들보다 음성 전이가 감소하고 일반화 성능이 향상됨을 보여준다.

ABSTRACT

Transfer learning has been successfully applied across many high-impact applications. However, most existing work focuses on the static transfer learning setting, and very little is devoted to modeling the time evolving target domain, such as the online reviews for movies. To bridge this gap, in this paper, we study a novel continuous transfer learning setting with a time evolving target domain. One major challenge associated with continuous transfer learning is the potential occurrence of negative transfer as the target domain evolves over time. To address this challenge, we propose a novel label-informed C-divergence between the source and target domains in order to measure the shift of data distributions as well as to identify potential negative transfer. We then derive the error bound for the target domain using the empirical estimate of our proposed C-divergence. Furthermore, we propose a generic adversarial Variational Auto-encoder framework named TransLATE by minimizing the classification error and C-divergence of the target domain between consecutive time stamps in a latent feature space. In addition, we define a transfer signature for characterizing the negative transfer based on C-divergence, which indicates that larger C-divergence implies a higher probability of negative transfer in real scenarios. Extensive experiments on synthetic and real data sets demonstrate the effectiveness of our TransLATE framework.

연구 동기 및 목표

• 시간에 따라 변화하는 타겟 도메인에서 발생하는 음성 전이 문제를 해결하기 위해.
• 새로운 레이블 정보를 반영한 도메인 불일치 측정 방법을 사용하여 타겟 도메인 오차에 대한 이론적 경계를 수립하기 위해.
• 연속적인 타임스탬프 간의 레이블 정보를 반영한 분포를 정렬하는 일반적인 적대적 VAE 기반 프레임워크(TransLATE)를 제안하기 위해.
• 실제 음성 전이를 특성화하고 탐지하기 위해 C-분산도를 기반으로 한 전이 서명을 정의하기 위해.
• 제한된 레이블 가용성 조건 하에서 TransLATE의 음성 전이 완화 효과를 경험적으로 검증하기 위해.

제안 방법

• 소스 도메인과 변화하는 타겟 도메인 간의 도메인 이질성을 측정하기 위해 레이블 정보를 통합한 레이블 기반 C-분산도 측정 방법을 제안하여 도메인 이질성의 정량화를 수행한다.
• C-분산도의 경험적 추정치를 사용하여 연속적 전이 학습의 오차 경계를 유도하며, 도메인 이질성과 타겟 오차 간의 관계를 연결한다.
• 잠재 공간에서 연속적인 타겟 타임스탬프 간의 분류 오차와 C-분산도를 모두 최소화하는 변동형 오토에코더 프레임워크인 TransLATE를 개발한다.
• 레이블 정보가 부족한 경우 타겟 데이터의 가짜 레이블링을 사용하여 진정한 레이블이 없더라도 C-분산도 추정이 가능하도록 한다.
• 음성 전이의 고위험 상황을 탐지하기 위해 C-분산도 기반의 전이 서명을 도입한다.
• t-SNE 시각화를 통해 잠재 공간에서 개선된 클래스 분리도와 레이블 기반 분포 정렬을 시각적으로 확인한다.

실험 결과

연구 질문

• RQ1 시간에 따라 변화하는 타겟 도메인에서의 도메인 이질성을, 음성 전이를 방지하기 위해 레이블 정보를 고려한 방식으로 어떻게 측정할 수 있는가?
• RQ2 레이블 기반 불일치 측정 방법을 사용하여 연속적 전이 학습에서 타겟 도메인 오차에 대해 어떤 이론적 경계를 설정할 수 있는가?
• RQ3 일반적인 적대적 VAE 프레임워크는 변화하는 도메인에서 연속적인 타임스탬프 간의 레이블 기반 분포를 효과적으로 정렬할 수 있는가?
• RQ4 타겟 도메인에서 레이블 가용성이 제한적일 경우 음성 전이의 위험은 어떻게 영향을 받는가? 그리고 C-분산도를 통해 이를 완화할 수 있는가?
• RQ5 실제 및 시뮬레이션 환경에서 제안된 C-분산도는 비지도 도메인 불일치 대비 전이 성능을 얼마나 향상시키는가?

주요 결과

• TransLATE는 DANN 및 WDGRL과 같은 기준 모델들보다 변화하는 타겟 도메인에서 전이 정확도에서 뚜렷한 우수성을 보이며, 특히 레이블 가용성이 제한된 조건에서 두드러진다.
• 제한된 타겟 레이블을 사용할 경우 음성 전이가 감소함을 보여주며, 이는 반독립적 설정에서의 성능 향상으로 확인된다.
• C-분산도 기반 정렬은 t-SNE 시각화를 통해 잠재 공간에서 더 나은 특징 분리도와 분포 일치를 이끌어내며, 이를 확인할 수 있다.
• C-분산도 기반 전이 서명은 음성 전이의 고위험 상황을 효과적으로 식별하며, 높은 C-분산도는 성능 저하의 가능성을 높임을 시사한다.
• SVHN-to-MNIST 회전 벤치마크에서 TransLATE_d는 SourceOnly 및 기타 전이 학습 기준 모델들보다 뛰어난 성능을 보이며, 변화하는 타겟 분포 조건에서도 유사한 성능을 유지한다.
• 경험적 결과는 분류 오차와 C-분산도를 동시에 최소화할 경우 타겟 오차가 감소하며, 이는 이론적 오차 경계의 타당성을 검증한다.