[논문 리뷰] A Brief Review of Deep Multi-task Learning and Auxiliary Task Learning

Partoo Vafaeikia, Khashayar Namdar외 1명|arXiv (Cornell University)|2020. 07. 02.

Domain Adaptation and Few-Shot Learning참고 문헌 25인용 수 6

한 줄 요약

이 논문은 딥 다중작업 학습(dMTL) 아키텍처를 검토하고, 모델 성능을 향상시키기 위해 최적의 보조 작업을 선택하는 방법을 제안한다. AUTOSEM은 다이내믹 보조 작업 선택을 위한 다중 손잡이 띠도와 베이지안 최적화를 활용한 이중 단계 프레임워크로, 두 단계 모두 성능을 극대화하고 부정적 전이를 줄이기 위해 필수적임을 입증한다.

ABSTRACT

Multi-task learning (MTL) optimizes several learning tasks simultaneously and leverages their shared information to improve generalization and the prediction of the model for each task. Auxiliary tasks can be added to the main task to ultimately boost the performance. In this paper, we provide a brief review on the recent deep multi-task learning (dMTL) approaches followed by methods on selecting useful auxiliary tasks that can be used in dMTL to improve the performance of the model for the main task.

연구 동기 및 목표

• 특징 공유와 일반화를 향상시키는 최근의 딥 다중작업 학습(dMTL) 아키텍처를 검토하기 위해.
• dMTL에서의 부정적 전이 문제를 해결하기 위해 주 작업 성능을 향상시키는 효과적인 보조 작업을 식별하기 위해.
• 간섭을 최소화하고 성능 향상을 극대화하는 보조 작업의 체계적이고 자동화된 선택 및 조합 방법을 제안하기 위해.
• 자동 작업 선택과 다이나믹 혼합 비율 학습의 조합이 dMTL 프레임워크에서 효과적인지 평가하기 위해.

제안 방법

• 주 작업에 비해 보조 작업의 추정된 유용성에 기반해 동적으로 보조 작업을 선택하는 비정상적인 다중 손잡이 띠도 컨트롤러를 사용한다.
• 가우스 프로세스 모델을 사용한 베이지안 최적화를 통해 학습 중 선택된 보조 작업에 대한 최적의 혼합 비율을 학습한다.
• 작업 선택과 혼합 비율 학습을 하나의 프레임워크(AUTOSEM)에 통합하여 성능을 동시에 최적화한다.
• 경량화된 추론 비용을 유발하지 않으면서 공유 표현을 정규화하는 보조 모듈을 사용하여 하드 및 소프트 파라미터 공유를 조합한다.
• 기울기 기반 유사도 측정법(코사인 유사도)을 활용해 학습 전에 해로운 보조 작업을 걸러내기 위해 사용한다.
• 과제 유사도에 따라 특징 교환을 선택적으로 允허하는 스칼라 가중치를 학습하는 게이트드 공유 유닛을 활용한다.

실험 결과

연구 질문

• RQ1 딥 다중작업 학습에서 성능 향상을 극대화하기 위해 보조 작업을 어떻게 자동으로 선택할 수 있는가?
• RQ2 보조 작업의 학습 비율을 다이나믹하게 조정하는 것이 모델 성능에 어떤 영향을 미치는가?
• RQ3 작업 선택과 혼합 비율 최적화를 조합한 이중 단계 프레임워크가 단일 단계 또는 수동 접근 방식을 능가할 수 있는가?
• RQ4 기울기 유사도(코사인 유사도) 사용이 비유해한 보조 작업을 식별하는 데 어떻게 기여하는가?
• RQ5 작업 선택과 혼합 비율 학습이 개별적으로 전체 성능 향상에 기여하는 정도는 어느 정도인가?

주요 결과

• 자동 작업 선택과 최적 혼합 비율 학습을 통합한 AUTOSEM 프레임워크는 단일 단계만을 사용한 경우에 비해 모델 성능을 크게 향상시킨다.
• 손잡이 띠도를 통한 작업 선택과 베이지안 최적화를 통한 혼합 비율은 모두 필수적인 구성 요소이며, 둘 중 하나를 생략하면 성능 저하가 발생한다.
• 주 작업과 보조 작업의 기울기 간 코사인 유사도를 사용하면 부정적 전이를 유발할 수 있는 작업을 식별하고 제거하는 데 도움이 된다.
• 학습 가능한 스칼라 가중치를 가진 게이트드 다중작업 네트워크가 유사도에 따라 특징 공유를 선택적으로 허용함으로써 간섭을 효과적으로 줄인다.
• 추론 시 제거되는 보조 모듈은 소프트 파라미터 공유를 모방하면서도 계산 비용을 증가시키지 않아 정규화 효과를 제공한다.
• 이 프레임워크는 도메인에 종속되지 않으며, 컴퓨터 비전 및 NLP를 포함한 다양한 머신러닝 응용 분야에 적용 가능하다.