[논문 리뷰] Overcoming Negative Transfer: A Survey

Wen Zhang, Lingfei Deng외 1명|arXiv (Cornell University)|2020. 09. 02.

Domain Adaptation and Few-Shot Learning참고 문헌 149인용 수 32

한 줄 요약

이 논문은 전이학습에서 부정적 전이(NT)를 극복하기 위한 거의 100개의 접근 방식을 체계적으로 조사하여, 원천 및 대상 데이터 품질, 도메인 간 차이, 통합 알고리즘의 네 영역으로 분류한다. 전이학습, 다중과제학습, 다국어 모델, 지속적 학습 분야에서 NT 완화 전략을 체계적으로 검토하여 문헌에서 중요한 격차를 메운다.

ABSTRACT

Transfer learning (TL) tries to utilize data or knowledge from one or more source domains to facilitate the learning in a target domain. It is particularly useful when the target domain has few or no labeled data, due to annotation expense, privacy concerns, etc. Unfortunately, the effectiveness of TL is not always guaranteed. Negative transfer (NT), i.e., the source domain data/knowledge cause reduced learning performance in the target domain, has been a long-standing and challenging problem in TL. Various approaches to overcome NT have been proposed in the literature. However, there has not been a systematic survey on overcoming NT. This paper fills the gap, by categorizing and reviewing near 100 approaches for combating NT, from four perspectives: source data quality, target data quality, domain divergence, and integrated algorithms. NT in related fields, e.g., multi-task learning, multilingual models, and lifelong learning, is also discussed.

연구 동기 및 목표

• 전이학습에서 원천 도메인 지식이 대상 도메인 성능을 해칠 수 있는 부정적 전이(NT)의 지속적 문제를 해결하기 위해.
• 특히 자원이 부족하거나 데이터가 부족한 대상 도메인에서 NT를 완화하는 기존 접근 방식을 식별하고 분류하기 위해.
• 다양한 학습 철학, 즉 다중과제학습, 다국어 모델, 지속적 학습을 포함해 NT 완화 전략을 체계적으로 검토하기 위해.
• 원천 데이터 품질, 대상 데이터 품질, 도메인 간 차이, 통합 알고리즘의 네 가지 통합적 관점으로 방법을 정리함으로써 분산된 NT 연구를 통합하기 위해.

제안 방법

• 부정적 전이 완화를 위한 98개의 접근 방식을 원천 데이터 품질, 대상 데이터 품질, 도메인 간 차이, 통합 알고리즘의 네 가지 주요 관점으로 분류하기.
• 원천 도메인에서 신뢰할 수 없거나 노이즈가 많은 예제를 걸러내거나 재가중함으로써 원천 데이터 품질을 향상시키는 방법 분석하기.
• 활동 학습, 데이터 증강, 불확실성 추정을 통해 대상 데이터 품질을 향상시켜 악영향을 줄이는 기법 평가하기.
• 원천 및 대상 도메인 간의 도메인 이동과 분포 불일치를 줄이기 위한 도메인 적응 및 정렬 기법 조사하기.
• 다양한 NT 완화 전략을 통합하는 하이브리드 알고리즘 검토하기, 예를 들어 동적 가중치 또는 메타학습 기반 도메인 선택.
• 다중과제학습, 다국어 모델, 지속적 학습 등 관련 분야로 분석 확장하여, 다양한 철학 간 NT 완화 패tern을 식별하기.

실험 결과

연구 질문

• RQ1 전이학습에서의 부정적 전이의 주요 원인은 무엇이며, 다양한 데이터 및 도메인 구성 조건에서 어떻게 다를까?
• RQ2 기존 방법들은 NT 완화 전략을 어떻게 분류하거나 그룹화하는가? 네 가지로 식별된 카테고리 내에서 지배적인 설계 패턴은 무엇인가?
• RQ3 데이터 품질과 도메인 간 차이가 부정적 전이에 얼마나 기여하는가? 현재 접근 방식은 이러한 요소를 어떻게 다루는가?
• RQ4 전이학습에서의 NT 완화 전략은 다중과제학습, 지속적 학습 등 관련 분야의 전략과 어떻게 비교되는가?
• RQ5 현재 NT 완화 기법에서의 주요 격차와 한계는 무엇이며, 향후 연구에서 가장 유망한 방향은 무엇인가?

주요 결과

• 거의 100개의 NT 완화 접근 방식을 네 가지 명확한 관점으로 분류함으로써 기존 방법들을 이해하고 비교할 수 있는 통합 프레임워크를 제공한다.
• 원천 데이터 품질 향상이 노이즈가 많거나 관련이 없는 예제를 포함한 원천 데이터에서 특히 흔한 전략이다.
• 데이터 선택 또는 증강을 통한 대상 데이터 품질 향상은 자원이 부족한 대상 도메인에서의 부정적 전이 위험을 크게 줄인다.
• 대부분의 경우 효과적으로 성능 저하를 최소화하기 위해, 적대적 정렬 및 분포 적응과 같은 도메인 간 차이 감소 기법이 널리 사용된다.
• 동적 도메인 가중치 또는 메타학습 기반 주의 메커니즘을 포함한 다중 전략 통합 알고리즘은 다양한 전이 시나리오에서 더 강력한 내성적 특성을 보인다.
• 다국어 모델 및 지속적 학습과 같은 관련 분야에서의 NT 완화는 전이학습과 유사한 방법론적 특성을 보이며, 핵심 기법의 도메인 간 적용 가능성을 시사한다.