[논문 리뷰] Homogeneous Online Transfer Learning with Online Distribution Discrepancy Minimization

Yuntao Du, Zhiwen Tan외 3명|arXiv (Cornell University)|2019. 12. 31.

Domain Adaptation and Few-Shot Learning참고 문헌 19인용 수 8

한 줄 요약

이 논문은 선형 특징 변환을 통해 모강성 및 조건부 분포 차이를 동시에 줄임으로써 온라인 분포 차이를 최소화하는 새로운 온라인 전이 학습 방법인 HomOTL-ODDM을 제안한다. 레이블이 부여된 타겟 데이터를 사용해 변환 행렬을 동적으로 업데이트하고, 허드 전략을 통해 다수의 소스 도메인을 활용함으로써, 고정된 변환 기반 방법 대비 평균 실수율을 4.28% 감소시켜 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Transfer learning has been demonstrated to be successful and essential in diverse applications, which transfers knowledge from related but different source domains to the target domain. Online transfer learning(OTL) is a more challenging problem where the target data arrive in an online manner. Most OTL methods combine source classifier and target classifier directly by assigning a weight to each classifier, and adjust the weights constantly. However, these methods pay little attention to reducing the distribution discrepancy between domains. In this paper, we propose a novel online transfer learning method which seeks to find a new feature representation, so that the marginal distribution and conditional distribution discrepancy can be online reduced simultaneously. We focus on online transfer learning with multiple source domains and use the Hedge strategy to leverage knowledge from source domains. We analyze the theoretical properties of the proposed algorithm and provide an upper mistake bound. Comprehensive experiments on two real-world datasets show that our method outperforms state-of-the-art methods by a large margin.

연구 동기 및 목표

• 온라인 전이 학습에서 소스 도메인과 타겟 도메인 간의 큰 분포 차이 문제를 해결하기 위해.
• 온라인 환경에서 모강성 및 조건부 분포 차이를 동시에 줄이는 방법을 개발하기 위해.
• 동적 가중치와 특징 공간 적응을 통해 다수의 소스 도메인에서의 지식을 활용하여 전이 성능을 향상시키기 위해.
• 제안된 알고리즘에 대한 실수 한계를 이론적으로 보장하기 위해.
• 실세계 데이터셋에서 온라인 변환 행렬 업데이트 및 파rameter 민감도의 실증적 타당성을 검증하기 위해.

제안 방법

• 이 방법은 소스 및 타겟 데이터를 분포 차이가 최소화되는 새로운 공간으로 투영하기 위해 선형 특징 변환을 사용한다.
• 변환된 공간에서 최대 평균 차이(MMD)를 사용해 모강성 및 조건부 분포 차이를 동시에 최소화한다.
• 성능에 따라 다수의 소스 도메인에서의 분류기 가중치를 동적으로 할당하기 위해 허드 전략을 적용한다.
• 레이블이 부여된 타겟 인스턴스를 사용해 변환 행렬을 온라인으로 업데이트함으로써 시간이 지남에 따라 분포 차이를 적응적으로 줄인다.
• 행렬 업데이트의 빈도를 제어하기 위해 시간 윈도우 $ T_w $ 를 유지하여 효율성과 적응성의 균형을 이룬다.
• 제안된 방법의 일반화 성능를 분석하기 위해 이론적 실수 한계를 유도한다.

실험 결과

연구 질문

• RQ1 온라인 분포 차이 최소화 전략은 다중 소스 온라인 전이 학습에서 전이 성능 향상에 기여하는가?
• RQ2 특징 변환 행렬을 동적으로 업데이트하는 것은 도메인 차이와 분류 정확도에 어떤 영향을 미치는가?
• RQ3 모강성 및 조건부 분포 차이를 동시에 줄이는 것이 기존 방법보다 더 나은 일반화 성능를 제공하는가?
• RQ4 C 및 $ T_w $ 와 같은 하이퍼파rameter의 변화에 성능가 민감한가?
• RQ5 실세계의 교차 도메인 분류 과제에서 제안된 방법이 최신 기술 수준의 기반 방법보다 더 뛰어난 성능을 달성할 수 있는가?

주요 결과

• HomOTL-ODDM은 최신 기술 수준의 방법들을 크게 앞서며, 고정된 변환 변형 대비 평균 실수율을 4.28% 감소시켰다.
• PIE1 및 Amazon을 포함한 모든 평가된 데이터셋에서 최고의 성능를 기록했으며, 시간이 지남에 따라 일관되게 낮은 온라인 실수율을 유지했다.
• 온라인 레이블이 부여된 데이터를 사용해 변환 행렬을 업데이트함으로써 더 효과적이고 강건한 특징 표현을 도출했으며, 도메인 차이를 더 효과적으로 줄였다.
• 도메인 차이가 높을 경우 HomOTL-ODDM은 전이 성능 향상이 더 두드러지게 나타내어, 도메인 분포 이동이 심한 상황에서도 효과적임을 보였다.
• 하이퍼파rameter 선택에 대해 강건한 성능를 보였으며, $ C > 2 $ 및 $ T_w \in [30, 200] $ 범위에서 최적의 성능를 달성해 실용적 안정성을 확인했다.
• 누적 MMD로 측정된 분포 차이가 처리되는 타겟 데이터가 많아질수록 감소하는 경향을 보이며, 온라인 차이 최소화 전략의 효과성을 확인했다.