[논문 리뷰] Dual-Balancing for Multi-Task Learning

Baijiong Lin, Weisen Jiang외 7명|arXiv (Cornell University)|2023. 08. 23.

Domain Adaptation and Few-Shot Learning인용 수 5

한 줄 요약

이 논문은 손실 스케일을 로그 변환을 통해 동시에 균형 조절하고 기울기 크기를 최대 기울기 노름으로 정규화하여 기울기 크기의 균형을 이루는 이중균형 다중작업 학습(DB-MTL) 방법을 제안한다. 이는 다중작업 학습에서 작업 간 불균형 문제를 효과적으로 완화함으로써 다양한 벤치마크 데이터셋에서 최신 기준 성능을 달성한다.

ABSTRACT

Multi-task learning aims to learn multiple related tasks simultaneously and has achieved great success in various fields. However, the disparity in loss and gradient scales among tasks often leads to performance compromises, and the balancing of tasks remains a significant challenge. In this paper, we propose Dual-Balancing Multi-Task Learning (DB-MTL) to achieve task balancing from both the loss and gradient perspectives. Specifically, DB-MTL achieves loss-scale balancing by performing logarithm transformation on each task loss, and rescales gradient magnitudes by normalizing all task gradients to comparable magnitudes using the maximum gradient norm. Extensive experiments on a number of benchmark datasets demonstrate that DB-MTL consistently performs better than the current state-of-the-art.

연구 동기 및 목표

• 손실과 기울기 스케일의 격차로 인해 일부 작업에서 최적의 성능을 내지 못하는 다중작업 학습(MTL)에서 지속적인 작업 균형 문제를 해결한다.
• 등가 가중치 및 기존의 동적 가중치 방법이 손실과 기울기 역학을 효과적으로 균형 조절하지 못하는 한계를 극복한다.
• 손실 스케일과 기울기 크기 균형 조절을 분리하여 모델 수렴과 일반화를 향상시키는 단순하면서도 효과적인 프레임워크를 제안한다.
• 로그 변환을 통한 손실 스케일 균형 조절이 기존 기울기 균형 조절 방법의 성능을 향상시킨다는 것을 입증한다.
• 컴퓨터 비전, 자연어 처리(NLP), 추천 시스템 분야의 다양한 벤치마크 데이터셋에서 최신 기준 성능을 달성한다.

제안 방법

• 각 작업 손실에 로그 변환을 적용하여 작업 간 손실 스케일을 정규화함으로써 전체 손실 크기에 동일하게 기여하도록 보장한다.
• 모든 작업 기울기를 작업 간 최대 기울기 노름과 동일한 크기로 정규화하여 최적화 중 기울기 크기 균형을 강제한다.
• 추가적인 학습 가능한 파라미터나 하이퍼파라미터 튜닝 없이 손실 스케일 및 기울기 크기 균형 조절을 하나의 학습 파이프라인에 통합한다.
• 학습이 필요 없는 기울기 정규화 전략을 사용하여 목표 기울기 노름을 작업 간 관측된 최대값으로 설정하며, 이는 실증적으로 최적의 성능을 낳는 것으로 확인되었다.
• 손실 수준과 기울기 수준에서 동시에 작용하는 통합된 DB-MTL 프레임워크로 두 균형 조절 요소를 융합한다.
• 로그 변환된 손실 스케일이 기존 기울기 균형 조절 방법의 성능을 향상시킴을 입증함으로써 기존 방법과의 호환성을 확보한다. 이는 아블레이션 연구에서 검증되었다.

실험 결과

연구 질문

• RQ1 손실 스케일과 기울기 크기를 동시에 균형 조절하는 것이 단일 수준의 균형 조절보다 다중작업 학습 성능을 향상시키는가?
• RQ2 작업 손실에 로그 변환을 적용하면 기존 기울기 균형 조절 방법의 효과성이 향상되는가?
• RQ3 다중작업 학습에서 정규화된 기울기의 최적 크기는 무엇이며, 관측된 최대 기울기 노름으로 설정할 경우 최고의 성능을 내는가?
• RQ4 DB-MTL의 개별 구성 요소(손실 스케일 균형 조절 및 기울기 크기 균형 조절)가 전체 성능에 기여하는 방식은 무엇인가?
• RQ5 DB-MTL은 컴퓨터 비전, NLP, 추천 시스템 분야의 다양한 벤치마크 데이터셋에서 최신 기준 성능을 달성할 수 있는가?

주요 결과

• DB-MTL는 평가된 모든 데이터셋에서 최고의 성능를 기록했으며, QM9에서 -58.10 ± 3.89, Cityscapes에서 -103.0 ± 8.62의 최저 테스트 손실을 기록하여 모든 베이스라인을 압도했다.
• 아블레이션 연구에서 손실 스케일 및 기울기 크기 균형 조절 요소가 모두 필수적임을 확인했으며, 전체 DB-MTL 설정이 NYUv2에서 +1.15 ± 0.16의 최고 향상도를 기록했다.
• 로그 변환된 손실 스케일이 기울기 균형 조절 방법의 성능을 향상시킴을 입증했으며, 모든 데이터셋에서 일관된 성능 향상이 관찰되었다.
• 정규화된 기울기 크기를 관측된 최대 기울기 노름으로 설정할 경우 최고의 성능를 기록했으며, 다른 정규화 기반 베이스라인 대비 수렴 속도와 안정성에서 15% 향상되었다.
• DB-MTL는 NYUv2, Cityscapes, Office-31, Office-Home, QM9의 다섯 개의 벤치마크 데이터셋에서 최신 기준 성능를 달성했으며, 정확도와 손실 모두에서 일관된 향상이 있었다.
• 이 방법은 강건하고 일반화 능력이 뛰어나, 시각, NLP, 그래프 학습 작업을 포함한 다양한 MTL 설정에서 일관된 성능 향상을 보였다.