[논문 리뷰] Multitask Learning with Single Gradient Step Update for Task Balancing

Sungjae Lee, Youngdoo Son|arXiv (Cornell University)|2020. 05. 20.

Domain Adaptation and Few-Shot Learning참고 문헌 33인용 수 4

한 줄 요약

이 논문은 메타학습 프레임워크 내에서 단일 그래디언트 스텝 업데이트를 사용하여 태스크 그래디언트를 균형 잡는 다중태스크 학습 방법을 제안한다. 공유 및 태스크별로 특화된 레이어를 분리하고, 내부/외부 루프 학습을 통해 한 스텝 업데이트로 공유 레이어를 최적화함으로써, 태스크 불균형을 완화하고 다양한 컴퓨터 비전 벤치마크에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Multitask learning is a methodology to boost generalization performance and also reduce computational intensity and memory usage. However, learning multiple tasks simultaneously can be more difficult than learning a single task because it can cause imbalance among tasks. To address the imbalance problem, we propose an algorithm to balance between tasks at the gradient level by applying gradient-based meta-learning to multitask learning. The proposed method trains shared layers and task-specific layers separately so that the two layers with different roles in a multitask network can be fitted to their own purposes. In particular, the shared layer that contains informative knowledge shared among tasks is trained by employing single gradient step update and inner/outer loop training to mitigate the imbalance problem at the gradient level. We apply the proposed method to various multitask computer vision problems and achieve state-of-the-art performance.

연구 동기 및 목표

• 그래디언트 지배로 인해 일부 태스크가 학습에서 지배하는 다중태스크 학습에서의 태스크 불균형 문제를 해결하기 위해.
• 다중태스크 딥 러닝에서 일반화 능력과 계산 효율성을 향상시키기 위해.
• 공유 및 태스크별로 특화된 네트워크 구성 요소를 분리하여 더 효과적인 학습을 위해.
• 메타학습 원리를 활용하여 그래디언트 수준에서의 균형 조절 메커니즘을 개발하기 위해.
• 다양한 다중태스크 컴퓨터 비전 작업에서 최신 기술 수준의 성능을 달성하기 위해.

제안 방법

• 네트워크를 공유 레이어와 태스크별로 특화된 레이어로 분리하고, 각각 다른 목표로 학습한다.
• 내부/외부 루프 메타학습 프레임워크 내에서 단일 그래디언트 스텝 업데이트를 사용해 공유 레이어를 최적화한다.
• 내부 루프 업데이트는 태스크별 헤드에서 수행되며, 외부 루프 업데이트는 메타목표를 사용해 공유 가중치를 개선한다.
• 메타최적화 과정은 태스크 손실의 가중합을 최소화함으로써, 태스크 간 그래디언트 균형을 암묵적으로 조절한다.
• 이 방법은 개선된 그래디언트 흐름과 태스크 간 간섭 감소를 가능하게 하여 엔드 투 엔드 학습을 가능하게 한다.
• 이 방법은 객체 검출 및 세그멘테이션을 포함한 다양한 컴퓨터 비전 작업에 적용된다.

실험 결과

연구 질문

• RQ1 다중태스크 학습에서 그래디언트 수준에서 태스크 불균형을 효과적으로 완화할 수 있는 방법은 무엇인가?
• RQ2 단일 그래디언트 스텝 업데이트 전략이 다중태스크 학습의 성능과 안정성 향상에 기여할 수 있는가?
• RQ3 공유 및 태스크별 학습을 분리하면 모델의 일반화 능력과 효율성이 향상되는가?
• RQ4 메타학습 원리가 다양한 태스크 간 그래디언트 균형 조절에 효과적으로 적용될 수 있는가?
• RQ5 제안된 방법이 표준 다중태스크 비전 벤치마크에서 최신 기술 수준의 결과를 달성하는가?

주요 결과

• 제안된 방법은 다양한 다중태스크 컴퓨터 비전 벤치마크에서 최신 기술 수준의 성능을 달성한다.
• 태스크 간 그래디언트 업데이트가 더 균일해짐으로써 태스크 불균형이 크게 감소함을 확인할 수 있다.
• 단일 그래디언트 스텝 업데이트 전략은 학습 안정성과 수렴 속도 향상에 기여한다.
• 공유 및 태스크별 레이어를 분리함으로써 더 나은 특징 표현과 태스크별 적응이 가능해진다.
• 계산 오버헤드를 줄이면서도 높은 성능를 유지함으로써 실생활 응용에 효율적이다.
• 실증 결과는 다양한 비전 작업에서 기준 다중태스크 학습 방법보다 일관된 성능 향상을 보였다.