[논문 리뷰] Self-Paced Multi-Task Learning

Changsheng Li, Junchi Yan외 4명|arXiv (Cornell University)|2016. 04. 06.

Domain Adaptation and Few-Shot Learning인용 수 15

한 줄 요약

이 논문은 모델 성능을 햖스키기 위해 다중 작업 학습 중에 쉬운 작업과 쉬운 인스턴스를 동시에 우선순위에 두는 새로운 프레임워크인 Self-Paced Multi-Task Learning (SPMTL)을 제안한다. 작업 중심의 자체 편성 정규화와 블록 좌표 강하를 도입함으로써, OHSUMED 및 Isolet를 포함한 합성 및 실세계 데이터셋에서 최신 기법들보다 더 나은 일반화 성능을 달성한다.

ABSTRACT

In this paper, we propose a novel multi-task learning (MTL) framework, called Self-Paced Multi-Task Learning (SPMTL). Different from previous works treating all tasks and instances equally when training, SPMTL attempts to jointly learn the tasks by taking into consideration the complexities of both tasks and instances. This is inspired by the cognitive process of human brain that often learns from the easy to the hard. We construct a compact SPMTL formulation by proposing a new task-oriented regularizer that can jointly prioritize the tasks and the instances. Thus it can be interpreted as a self-paced learner for MTL. A simple yet effective algorithm is designed for optimizing the proposed objective function. An error bound for a simplified formulation is also analyzed theoretically. Experimental results on toy and real-world datasets demonstrate the effectiveness of the proposed approach, compared to the state-of-the-art methods.

연구 동기 및 목표

• 기존의 다중 작업 학습 기법들이 학습 중 모든 작업과 인스턴스를 동일하게 취급하는 데서 비롯되는 한계를 해결하기 위해.
• 인간이 쉬운 개념에서 어려운 개념으로 배우는 인지 학습 과정을 모방하기 위해, 작업과 인스턴스의 복잡도를 학습 순서에 통합하기 위해.
• 어려움에 따라 작업과 인스턴스를 동적으로 선택하는 원칙적인 다중 작업 학습 프레임워크를 개발하여 일반화 및 수렴 성능를 향상시키기 위해.
• 작업과 인스턴스의 선택을 동시에 제어할 수 있는 새로운 정규화를 설계하여 다중 작업 환경에서의 자체 편성 학습을 가능하게 하기 위해.
• 대규모 학습 작업에서 계산 효율성을 유지하면서 최적화 알고리즘의 수렴성을 확보하기 위해.

제안 방법

• 작업과 인스턴스의 복잡도에 기반해 부드러운 가중치를 부여하는 새로운 작업 중심의 자체 편성 정규화를 제안하여, 작업과 인스턴스의 공동 우선순위를 가능하게 한다.
• 목적 함수를 최적화하기 위해 블록 좌표 강하 알고리즘을 도입하였으며, 약한 가정 하에 수렴 보장을 갖는다.
• 손실 기반 가중치 부여 방식을 사용하여, 각 반복에서 손실이 낮은(더 쉬운) 인스턴스와 작업이 더 높은 가중치를 받는다.
• 반복적으로 가장 정보가 많은(가장 쉬운) 작업과 인스턴스부터 선택하고 학습하는 방식으로 자체 편성 전략을 적용한다.
• 이중 수준의 선택 메커니즘을 적용한다: 작업 수준에선 쉬운 작업을 우선순위로 삼고, 인스턴스 수준에선 각 작업 내에서 쉬운 예제를 먼저 선택한다.
• 선택 과정에서 급격한 변화를 방지하기 위해 부드러운 가중치 함수를 도입하여 안정적이고 점진적인 모델 학습을 보장한다.

실험 결과

연구 질문

• RQ1 모든 작업과 인스턴스를 동일하게 취급하는 것과 비교해, 쉬운 작업과 쉬운 인스턴스를 동시에 우선순위에 두는 것이 다중 작업 학습 성능을 향상시킬 수 있는가?
• RQ2 작업 수준과 인스턴스 수준의 복잡도가 공존하는 다중 작업 환경에서 원칙적인 자체 편성 학습 전략을 어떻게 적응시킬 수 있는가?
• RQ3 작업 수준의 어려움을 학습 순서에 통합하면, 인스턴스 수준의 자체 편성만을 고려한 경우보다 더 나은 수렴 및 일반화 성능를 달성할 수 있는가?
• RQ4 다중 작업 학습 프레임워크에서 작업과 인스턴스의 선택을 동시에 제어할 수 있는 새로운 정규화를 설계할 수 있는가?
• RQ5 자체 편성 학습 순서가 반복 과정에서 모델 안정성과 예측 정확도에 어떤 영향을 미치는가?

주요 결과

• SPMTL은 합성 및 실세계 데이터셋 모두에서 베이스라인인 GO-MTL과 인스턴스 전용 자체 편성 방법인 SPIWL보다 뚜렷이 뛰어난 성능을 보이며, 작업과 인스턴스의 공동 우선순위 부여가 유의미한 이점을 제공함을 입증한다.
• OHSUMED 데이터셋에서 SPMTL은 모든 비교 방법보다 낮은 rMSE와 nMSE를 기록하였으며, 약 10회 반복 후 성능이 안정화됨을 확인하였다.
• Isolet 데이터셋에서 SPMTL은 rMSE와 nMSE 지표 모두에서 최신 기법들보다 일관되게 향상된 성능을 보이며, 실세계 회귀 과제에서의 효과성을 확인하였다.
• 가중치 벡터 w와 손실 L의 시각화 결과, 쉬운 작업과 인스턴스가 학습 초반에 먼저 선택되는 것으로 나타나, 알고리즘이 자체 편성 행동을 잘 따르고 있음을 확인하였다.
• 제거 분석 결과, 작업과 인스턴스의 순서를 모두 고려한 경우가 한쪽만 고려한 경우보다 더 나은 성능를 보였으며, SPIWL(인스턴스 전용)은 GO-MTL를 초월했지만, SPMTL(공동)은 양자 모두를 능가함을 확인하였다.
• 블록 좌표 강하 알고리즘은 안정적으로 수렴하였으며, OHSUMED 데이터셋(15% 훈련 데이터)에서 예측 성능가 약 10회 반복 후 안정화됨을 관찰하였다.