[논문 리뷰] A Survey on Negative Transfer

Wen Zhang, Lingfei Deng외 2명|arXiv (Cornell University)|2020. 09. 02.

Domain Adaptation and Few-Shot Learning참고 문헌 118인용 수 19

한 줄 요약

이 논문은 전이학습에서 부정적 전이(NT)에 관한 최초의 종합적 서베이를 제시하며, 보안 전이, 도메인 유사도 추정, 원거리 전이, 그리고 NT 완화의 네 가지 범주에 걸쳐 50개 이상의 접근 방식을 체계적으로 검토한다. 부정적 전이를 유발하는 주요 요인을 규명하고, 도메인 유사도에 기반하여 적절한 전략을 선택하는 지침을 제공함으로써, 실세계 전이학습 응용에서 NT의 이해와 실무적 대응을 크게 향상시킨다.

ABSTRACT

Transfer learning (TL) utilizes data or knowledge from one or more source domains to facilitate the learning in a target domain. It is particularly useful when the target domain has very few or no labeled data, due to annotation expense, privacy concerns, etc. Unfortunately, the effectiveness of TL is not always guaranteed. Negative transfer (NT), i.e., leveraging source domain data/knowledge undesirably reduces the learning performance in the target domain, has been a long-standing and challenging problem in TL. Various approaches have been proposed in the literature to handle it. However, there does not exist a systematic survey on the formulation of NT, the factors leading to NT, and the algorithms that mitigate NT. This paper fills this gap, by first introducing the definition of NT and its factors, then reviewing about fifty representative approaches for overcoming NT, according to four categories: secure transfer, domain similarity estimation, distant transfer, and NT mitigation. NT in related fields, e.g., multi-task learning, lifelong learning, and adversarial attacks, are also discussed.

연구 동기 및 목표

• 전이학습에서 원천 도메인 지식이 타겟 도메인 성능을 악화시키는 장기적인 과제인 부정적 전이(NT)를 해결하기 위해.
• NT 완화를 위한 50여 가지의 대표적 접근 방식에 대한 체계적인 검토를 제공하여 기존 문헌의 핵심적 공백을 메우기 위해.
• 보안 전이, 도메인 유사도 추정, 원거리 전이, 그리고 NT 완화의 네 가지 핵심 전략에 기반해 NT 완화 기법을 분류하고 분석하기 위해.
• 추정된 도메인 유사도에 기반하여 전이 전략 선택을 위한 실용적 지침을 제공하기 위해.
• 부정적 전이의 열린 과제와 향후 연구 방향을 규명하기 위해, 회귀 문제, 오픈셋 시나리오, 그리고 NT 요인의 이론적 진단을 포함한다.

제안 방법

• 논문은 접근 방식의 기본 메커니즘을 바탕으로 NT 완화 접근 방식을 보안 전이, 도메인 유사도 추정, 원거리 전이, 그리고 NT 완화의 네 범주로 분류한다.
• 전이 가능성, 도메인 간 산란, 데이터 품질 요인을 고려하는 구조화된 프레임워크를 사용해 방법을 평가한다.
• 특성 적응, 모델 적응, 적대적 훈련, 인스턴스 수준의 재가중 기법을 분석하여 NT 감소 효과를 평가한다.
• 69개의 대표적 논문을 대상으로 비교 분석을 수행하며, 도메인 유사도, 전이 알고리즘, 데이터 품질 등의 기준에 따라 성능을 평가한다.
• 이론적 및 실증적 평가를 포함하여, 원칙적인 관점에서 NT를 명시적으로 다루는 방법에 집중한다.
• 분석 결과에서 유도된 지침은 추정된 도메인 유사도(높음, 중간, 낮음)에 기반한 전략 선택을 권장한다.

실험 결과

연구 질문

• RQ1 분류 작업에서 특히, 전이학습에서 부정적 전이의 주요 원인과 기여 요인은 무엇인가?
• RQ2 보안 전이, 도메인 유사도 추정, 원거리 전이, 그리고 NT 완화의 각 범주가 다양한 도메인 유사도 조건에서 어떻게 성능을 내는가?
• RQ3 무 supervision 도메인 적응, 소수 샘플 학습 등 전이학습 파라다임 중에서 NT에 가장 취약한 것은 무엇이며, 어떻게 보호할 수 있는가?
• RQ4 회귀 문제 및 오픈셋 학습 시나리오에서 현재의 NT 완화 방법의 주요 한계는 무엇인가?
• RQ5 실세계 응용에서 NT를 유발하는 정확한 요인을 어떻게 진단하여 최적의 전략 선택을 안내할 수 있는가?

주요 결과

• 현재 대부분의 NT 연구는 NT 완화와 도메인 유사도 추정에 집중되어 있으며, 데이터 전이 가능성 향상에 강한 중점을 두고 있다.
• NT 완화 접근 방식은 주로 데이터 전이 가능성에 초점을 맞추며, 종종 도메인 산란, 전이 알고리즘, 데이터 품질 요인을 통합한다.
• 보안 전이 전략은 주로 모델 적응에 기반하고 있어, 더 다양한 보안 전이 메커니즘의 필요성을 시사한다.
• 대부분의 NT 완화 방법은 도메인 산란, 데이터 품질 등 여러 요인을 고려하고 있어, 통합적 완화 전략으로의 추세를 보인다.
• 회귀 문제에 대한 NT 완화 연구가 뚜렷하게 부족하여 현재 문헌에서 심각한 격차가 있음을 드러낸다.
• 이 서베이는 이론적 진단 도구가 여전히 개발되지 않았음을 규명하여, 특정 응용 분야에서 근본 원인을 규명하기 위한 새로운 실증적 및 이론적 도구의 필요성을 제기한다.