[논문 리뷰] Curriculum Learning of Multiple Tasks

Anastasia Pentina, Viktoriia Sharmanska외 1명|arXiv (Cornell University)|2014. 12. 03.

Domain Adaptation and Few-Shot Learning참고 문헌 30인용 수 5

한 줄 요약

이 논문은 관련된 작업들을 최적의 순서로 학습함으로써 일반화 성능을 향상시키는 순차적 다중작업 학습 프레임워크를 제안한다. 이는 PAC-베이지안 일반화 경계를 사용하여 자동으로 가장 효과적인 교육과정(curriculum)을 발견한다. 이 방법은 공동 학습과 독립 학습보다 우수한 성능을 보이며, 작업 간 관련성이 변화할 경우 특히 뛰어난 성능을 발휘한다. 이미지 분류 벤치마크에서 뛰어난 성능을 보였다.

ABSTRACT

Sharing information between multiple tasks enables algorithms to achieve good generalization performance even from small amounts of training data. However, in a realistic scenario of multi-task learning not all tasks are equally related to each other, hence it could be advantageous to transfer information only between the most related tasks. In this work we propose an approach that processes multiple tasks in a sequence with sharing between subsequent tasks instead of solving all tasks jointly. Subsequently, we address the question of curriculum learning of tasks, i.e. finding the best order of tasks to be learned. Our approach is based on a generalization bound criterion for choosing the task order that optimizes the average expected classification performance over all tasks. Our experimental results show that learning multiple related tasks sequentially can be more effective than learning them jointly, the order in which tasks are being solved affects the overall performance, and that our model is able to automatically discover the favourable order of tasks.

연구 동기 및 목표

• 관련성이 없는 작업이 음의 전이로 인해 성능을 떨어뜨리는 공동 다중작업 학습의 한계를 해결하기 위해.
• 이전에 학습한 작업들로부터 지식을 순차적으로 전이함으로써 저자료 환경에서의 일반화 성능을 향상시키기 위해.
• 일반화 경계에 기반한 이론적으로 타당한 방법을 개발하여 작업 학습 순서를 자동으로 최적화하기 위해.
• 순차적 학습과 교육과정 순서가 독립적 학습 및 공동 학습 접근 방식보다 우수한 성능을 보일 수 있음을 입증하기 위해.

제안 방법

• 이전 작업의 모델을 인덕티브 바이어스로 사용하여 각 작업을 순차적으로 학습하는 순차적 다중작업 학습 방법을 수립한다.
• 연속된 작업 간의 가중치 벡터 간 거리와 데이터 표현에 의존하는 PAC-베이지안 일반화 경계를 사용하여 교육과정 학습을 안내한다.
• 일반화 경계에 기반한 기준을 정의하여 작업 순서를 순위 매기고, 모든 작업의 기대 오차를 최소화하는 순서를 선택한다.
• 모델 가중치의 재귀적 갱신을 사용하여 일반화 경계를 최소화하는 방식으로 최적의 순서를 계산하는 알고리즘 1(MultiSeqMT)을 제안한다.
• 서브순서를 다중으로 처리하기 위해 알고리즘 2를 개발하여 비효율적인 경로의 재정렬 및 제거를 가능하게 한다.
• L2 정규화를 적용한 선형 분류기에서 이 방법을 적용하고, 가중치 벡터 간 유클리드 거리를 통해 작업 간 관련성을 모델링한다.

실험 결과

연구 질문

• RQ1 이전 작업들로부터 지식 전이를 통해 다중 작업을 순차적으로 학습하는 방식이 공동 학습보다 일반화 성능을 향상시킬 수 있는가?
• RQ2 학습 순서가 다중작업 학습의 전체 성능에 뚜렷한 영향을 미치는가?
• RQ3 일반화 경계에 기반한 이론적으로 타당한 기준을 사용하여 최적의 교육과정을 자동으로 발견할 수 있는가?
• RQ4 제안된 순차적 접근 방식은 분류 정확도 측면에서 독립 학습, 공동 학습, 무작위 순서와 비교해 어떻게 성능을 냈는가?
• RQ5 이 방법은 작업 간 관련성의 정도가 다양할 경우에도, 관련성이 없는 작업으로 인한 음의 전이를 피할 수 있는가?

주요 결과

• AwA 및 Shoes 데이터셋에서, 교육과정 순서를 적용한 순차적 학습이 공동 다중작업 학습보다 일관되게 뛰어난 성능을 보였다. 평균 오차율이 낮았다.
• AwA 데이터셋에서 제안된 SeqMT 방법은 평균 오차율 23.86% ± 0.33을 기록하여 공동 MT 방법(24.16% ± 0.35)과 기준선 IndSVM(26.34% ± 0.31)을 모두 앞섰다.
• 모델은 모든 클래스에서 성능 향상을 이끌어내는 유리한 교육과정 순서를 성공적으로 발견했으며, 최고 성능을 낸 순서는 평균 오차율 23.35% ± 0.38을 기록했다.
• 20번의 무작위 반복 동안 알고리즘의 성능은 낮은 표준편차를 유지하여 작업 순서 최적화가 신뢰할 만한 성능을 보였다.
• 무작위 또는 히우리스틱 기반 순서와 비교했을 때, 교육과정 기반 접근 방식은 특히 어려운 또는 관련성이 낮은 작업에서 오차율을 크게 감소시켰다.
• PAC-베이지안 일반화 경계의 활용 덕분에 모델는 기대 위험을 최소화하는 순서를 효과적으로 우선순위화할 수 있었고, 이는 제안된 방법의 이론적 기반을 검증하였다.