[논문 리뷰] Temporally Correlated Task Scheduling for Sequence Learning

Xueqing Wu, Lewen Wang외 6명|arXiv (Cornell University)|2020. 07. 10.

Parallel Computing and Optimization Techniques인용 수 8

한 줄 요약

이 논문은 시퀀스 학습 모델의 성능을 향상시키기 위해 훈련 중에 시간적으로 관련된 보조 작업을 적응적으로 선택하는 학습 가능한 작업 스케줄러를 제안한다. 이중 최적화를 통해 스케줄러와 메인 모델을 함께 최적화함으로써, 추가적인 감독 없이도 성능 향상이 크게 이루어지며, 동시 번역에서는 BLEU 점수를 1~3점 향상시키고, 주식 가격 추세 예측에서는 상관계수를 최대 0.024 향상시킨다.

ABSTRACT

Sequence learning has attracted much research attention from the machine learning community in recent years. In many applications, a sequence learning task is usually associated with multiple temporally correlated auxiliary tasks, which are different in terms of how much input information to use or which future step to predict. For example, (i) in simultaneous machine translation, one can conduct translation under different latency (i.e., how many input words to read/wait before translation); (ii) in stock trend forecasting, one can predict the price of a stock in different future days (e.g., tomorrow, the day after tomorrow). While it is clear that those temporally correlated tasks can help each other, there is a very limited exploration on how to better leverage multiple auxiliary tasks to boost the performance of the main task. In this work, we introduce a learnable scheduler to sequence learning, which can adaptively select auxiliary tasks for training depending on the model status and the current training data. The scheduler and the model for the main task are jointly trained through bi-level optimization. Experiments show that our method significantly improves the performance of simultaneous machine translation and stock trend forecasting.

연구 동기 및 목표

• 시퀀스 학습에서 시간적으로 관련된 다수의 보조 작업을 효과적으로 활용하는 데 아직 탐색되지 않은 과제를 해결하기 위해.
• 훈련 중에 가장 유익한 보조 작업을 동적으로 선택하여 메인 시퀀스 학습 과제의 성능을 향상시키기 위해.
• 모델 상태와 훈련 데이터에 따라 적응하는 자기지도형, 엔드 투 엔드로 학습 가능한 스케줄러를 개발하기 위해.
• 이 방법이 동시 번역과 주식 가격 예측과 같은 다양한 응용 분야에서 효과적임을 입증하기 위해.

제안 방법

• 모델 상태와 현재 데이터를 바탕으로 각 훈련 배치에 대해 시간적으로 관련된 작업을 선택하는 학습 가능한 스케줄러를 도입한다.
• 스케줄러와 메인 모델을 이중 최적화를 통해 함께 훈련한다: 외부 루프는 검증 성능을 최적화하기 위해 스케줄러를 최적화하고, 내부 루프는 선택된 작업에 대해 모델을 훈련한다.
• 스케줄러는 손실 역사, 예측, 레이블, 현재 데이터를 포함한 입력을 받는 ReLU 활성화 함수를 사용하는 단일층 피드포워드 네트워크로 구현된다.
• 이 방법은 시퀀스-투-시퀀스 과제(예: 동시 번역)와 시계열 예측(예: 주식 추세) 모두에 적용되며, 공통된 아키텍처 구성 요소를 공유한다.
• 스케줄러에 대해 추가적인 감독 신호가 필요로 하지 않으며, 메인 과제의 성능 피드백에만 의존한다.
• 이 프레임워크는 예를 들어 wait-k 번역이나 향후 주식 가격 예측과 같은 다양한 입력/출력 시간 오프셋을 가진 다수의 보조 과제를 지원한다.

실험 결과

연구 질문

• RQ1 시간적으로 관련된 보조 과제를 적응적으로 선택하면 메인 시퀀스 학습 과제의 성능 향상이 이루어지는가?
• RQ2 보조 과제에 대해 고정된 전략과 학습 가능한 스케줄링 전략을 사용했을 때 메인 과제의 성능는 어떻게 달라지는가?
• RQ3 더 많은 시간적으로 관련된 과제를 포함하면 항상 성능 향상이 이루어지는가, 아니면 관련 없는 과제에서 유도되는 노이즈로 인해 성능 저하가 발생하는가?
• RQ4 제안된 방법은 번역과 금융 예측과 같은 다양한 시퀀스 학습 응용 분야에 일반화 가능한가?

주요 결과

• 동시 번역에서 제안된 방법은 네 가지 과제에서 wait-k 기준선 대비 BLEU 점수를 1~3점 향상시켰다.
• 주식 추세 예측에서, 5개의 보조 과제를 사용할 경우 메서드는 RankIC 0.075를 기록했으며, 동일한 설정에서 MTL(0.061)과 CL(0.056)를 모두 초월했다.
• 10개의 보조 과제를 사용할 경우 5개 사용할 때보다 성능이 떨어졌으며, 이는 더 많은 과제가 노이즈를 유도하고 결과를 악화시킬 수 있음을 시사한다.
• MSE는 MTL의 1.862와 CL의 1.880에 비해 1.849로 낮아, 더 높은 예측 정확도를 보였다.
• 스케줄러의 적응적 선택은 모든 평가 설정에서 정적 다중 과제 학습과 커리큘럼 학습보다 뛰어난 성능을 보였다.
• 강력한 모델인 GAT과 조합해도 제안된 방법이 모델 자체보다 더 나은 결과를 도출했으며, 이는 그 방법의 호환성과 효과성을 입증한다.